信息论与编码作业答案新)超全供参考.docx

2022信息论与编码作业答案新)超全供参考信息论与编码作业答案(新)超全篇一：信息论与编码姜丹第三版信息论与编码习题参考答案 第一章 单符号离散信源信息论与编码作业是74页，1.1的（1）（5），1.3,1.4,1.6,1.13,1.14还有证明熵函数的连续性、扩展性、可加性1.1同时掷一对均匀的子，试求：(1)“2和6同时出现”这一事件的自信息量； (2)“两个5同时出现”这一事件的自信息量； (3)两个点数的各种组合的熵； (4)两个点数之和的熵；(5)“两个点数中至少有一个是1”的自信息量 解：11样本空间：Nc6c66636n12N36(1)P1(3)信源空间：log6log364.32bit 36236H(x)15243836log36＋logloglog36362363364 103365366n1136N3611H(x)1.2如有6行、8列的棋型方格，假设有两个质点A和B，分别以等概落入任一方格内，且它们的坐标分别为（Xa，Ya）, （Xb，Yb）,但A，B不能同时落入同一方格内 （1） 假设仅有质点A，求A落入任一方格的平均信息量； （2） 假设已经明白A已落入，求B落入的平均信息量； （3） 假设A，B是可识别的，求A，B落入的平均信息量。

解：1(1)A落入任一格的概率:P(ai)I(ai)logP(ai)log4848i148(2)在已经明白A落入任一格的情况下,B落入任一格的概率是:P(bi)I(bi)logP(bi)log47i148147(3)AB同时落入某两格的概率是P(ABi)I(ABi)logP(ABi)4847i1111.3从大量统计材料明白,男性中红绿色盲的发病率为7%,女性发病率为0.5%.假设你征询一位男士：“你是否是红绿色盲？”他的答复可能是：“是”，也可能“不是”征询这两个答复中各含有多少信息量？平均每个答复中各含有多少信息量？假设你征询一位女士，那么她的答案中含有多少平均信息量？ 解： 关于男士:答复“是”的信息量：I(my)logP(my)log7%3.84bit答复“不是”的信息量：I(mn)logP(mn)log93%0.105bit平均每个答复信息量：H(m)P(my)logP(my)P(mn)logP(mn) %log7%3%log93%0.366bit关于女：答复“是”的信息量：I(wy)logP(wy)log0.5%答复“不是”的信息量：I(mn)logP(mn)log99.5%1.4某一无经历信源的符号集为｛0，1｝，已经明白p013，p123。

1） 求符号的平均信息量；（2） 由1000个符号构成的序列，求某一特定序列（例如有m个“0”,（1000-m）个“1”）的自信量的表达式；（3） 计算（2）中序列的熵 解：1122333312（2）I(A)mlogp0(1000m)logpmlog(1000m)logbit33（3）H(A)1000H(X)10000.9____18bit/sequence H(A)p0logp0i1m1000mi1p1logp1m12(1000m)2loglog33331.5设信源X的信源空间为：a1 a2a3a4a5 a6X：[xp]：求信源熵，并解释为什么H(X)log6，不满足信源熵的极值性 解：H(X)p(ai)logp(ai)i1620.3log0.3 2.725 bit/symble可见H(X)2.725log62.585 不满足信源熵的极值性，这是由于信源熵的最大值是在pi1的约束条件下求得的，但是此题中i1rpi16i1.18不满足信源熵最大值成立的约束条件，因此H(X)log61.6为了使电视图象获得良好的明晰度和规定的比照度，需要用5×105个像素和10个不同的亮度电平，并设每秒要传送30帧图象，所有的像素是____的，且所有亮度电平等概出现。

求传输此图象所需要的信息率（bit/s） 解：由于亮度电平等概出现，由熵的极值性：i110每帧图像的熵是： H(X)5105H(x0)51053.3221.661106 bit/frame所需信息速率为：Rr(frame/s)H(X)(bit/frame)301.6611064.983107 bit/s1.7设某彩电系统，除了满足关于黑白电视系统的上述要求外，还必须有30个不同的色彩度试证明传输这种彩电系统的信息率要比黑白系统的信息率大2.5倍左右 证:增加30个不同色彩度,在满足黑白电视系统要求下,每个色彩度需要10个亮度,因此每个像素需要用3010300bit量化每个像素的熵是： H(x1)p(bi)logp(bi)log300bit/pelsi1300H(x1)log3002.4772.5H(x0)log10彩色电视系统每个像素信息量比黑白电视系统大2.5倍作用,因此传输一样的图形,彩色电视系统信息率要比黑白电视系统高2.5倍左右.1.8每帧电视图像能够认为是由3×105个像素组成，因此像素均是____变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现征询每帧图像含有多少信息量？假设如今有一个广播员，在约10000个汉字中选1000个字来口述这一电视图像，试征询假设要恰当地描绘此图像，广播员在口述中至少需要多少汉字？ 解:每帧图象所含信息量:H(X)3105H(x)3105log1282.1106bit/symble1000每个汉字所包含信息量:H(c)logp每个汉字所出现概率p描绘一帧图像需要汉字数n,H(X)nH(c)H(X)2.1106n6.322105/frameH(c)log0.1最少需要6.322105个汉字1.9给定一个概率分布(p1,p2,...,pn)和一个整数m，0mn。

定义qm1p，证明：ii1mH(p1,p2,...,pn)H(p1,p2,...,pm,qm)qmlog(nm)并说明等式何时成立？证：先证明f(x)xlogx(x0)为凸函数，如下：loge又x0xlogef(x)(xlogx)0 即f(x)xlogx(x0)为凸函数xf(x)(xlogx)又H(p1,p2,...,pn)pilogpii1mim1plogpini由凸函数的性质，变量函数的平均值小于变量的算术平均值的函数，可得：im1pilogpi(nm)im1nim1f(p)innm(nm)f(im1pninm)(nm)im1pninmlogim1pninmqmlogqmnm即plogpiniqmlogqmqmlog(nm)当且仅当pm1pm2...pn时等式成立H(p1,p2,...,pn)pilogpimplogpinipilogpiqmlogqmqmlog(nm)mi1im1i1mH(p1,p2,...,pm,qm)pilogpiqmlogqmi1H(p1,p2,...,pn)H(p1,p2,...,pm,qm)qmlog(nm)当且仅当pm1pm2...pn时等式成立1.10找出两种特别分布:p1≥p2≥p3≥…≥pn，p1≥p2≥p3≥…≥pm,使H(p1,p2,p3,…,pn)=H(p1,p2,p3,…,pm)。

解：nmH(p1,p2,...,pn)pilogpiH(q1,q2,...,qm)qilogqii1i1篇二：信息论与编码课程大作业信息论与编码课程大作业1、 以下面方向为题，写一份：(标题能够本人定义,只要内容在以下范围之内)a) 信息理论方法的应用b) 信息率失真函数与有损数据压缩技术c) 信源编码及其开展动态d) 论信源编码与信道编码e) 论现代____体制f) 论通讯与香农三大定理的关系2、 论文格式要求a) 按标题、名字学号、摘要、关键词、正文、结论、参考文献进展书写，格式要统一标准，图表要完备；b) 字体小四、宋体、1.5行距；c) 任意两个同学的论文不能一样，如一样20%以上那么视为零分；3、 论文内容要求1） 论文不能写成综述性文章，必须是对技术的讨论与____，研究并提13。