Lecture1基本概念.ppt

State Key Laboratory of Integrated Services Networks Lecture 1 基本概念孙蓉，rsun76@ 信道编码理论 2010年度*1内容v数字通信系统模型 v信道模型与错误图样 v纠错码的分类与发展历程 v纠错码的基本原理 v纠错码的纠错能力 v纠错码的编码增益 v基本译码方法 v信道编码定理 v信道容量Date2数字通信系统模型信道编码: 传输可靠性 无线传输： 噪声与干扰！信息处理：时间空间性能！调制: 信道匹配多址复用: 多用户共享Date3数字通信系统模型Date4信道模型v二进制对称信道(BSC)与Z信道v二进制删除信道（BEC）11-pp00111-p1-pp p00111-p1-ppp0011eDate5信道模型v 离散输入连续输出信道 Ø 假定信道编码器的输出符号取自 ，译码器输入 为连续值Y=R，我们称这类信道为离散输入连续输出信道，典型的 有：二元输入高斯白噪声信道（BIAWGN）和二元拉普拉斯 (Laplace)信道 Ø BIAWGN输入输出可表示为 Ø Y=X+N Ø 其中，N为加性高斯白噪声，其均值为零，方差为 。

给定一个输 入 ， ，则Y是均值为xk，方差为 的高斯变量 v 离散无记忆（随机）信道（DMC），有记忆（突发）信道 ，组合信道Date6错误图样v例子 Ø发送序列C: (1111011000) Ø错误图样E: (1001001110) Ø接收序列R: (0110010110) ØR=C+E or E=C+R Ø突发图样: (100100111)；突发长度：9 v二进制运算规则⊕00110011模2加 ⊙00110100模2乘Date7差错控制的基本方式FEC: Forward Error Control；ARQ: Automatic Retransmission Request HEC: Hybrid Error Control; IRQ: Information Retransmission Request可纠正错误的码发收 FEC能够发现错误的码发收 ARQ 应答信号能够发现和纠正错误的码发收 HEC 应答信号信息信号发收 IRQ 信息信号Date8纠错码的分类Date9纠错码发展历程Date10纠错码的基本原理v以重复码为例 Ø00…0011…11 Ø其他所有二进制组合为禁用码组(字) Ø若将每个比特重复n次，则构成一个码长为n，信息位 长度为1的(n,1)重复码,且编码效率(码率) R=1/n Øn=2时许用码组：00, 11禁用码组：01, 10可能接收码字：00, 01, 10, 11能够发现一个错误，但不能纠正错误许用码组(字)Date11纠错码的基本原理Øn=3许用码组：000, 111禁用码组：001, 010, 100, 101, 110, 011可能接收码字： 000, 001, 010, 100, 101, 110, 011, 111能够发现两个错误，纠正一个错误 Øn=4许用码组：0000，1111假定发送码字为：00000禁用码组：0001, 0010, 0100, 1000, 0011, 0101, 0110, 1100, 1001, 1010, 0111, 1101, 1110, 1011能够纠正一个错误同时发现两个错误；或发现三个错误译码正确 译码失败 译码错误Date12纠错码的基本原理v译码失败：译码器根据接收到的信号无法作出明 确判断,不完备译码; v译码错误：译码器根据接收到的信号作出错误判 断; v完备译码：根据接收信号，译码器一定能作出是 哪一组信息的判断v纠错码的基本原理： Ø在信息序列之后按照一定的规则添加一定长度的保护 比特(校验比特或监督比特)Date13Hamming距离与重量v汉明（Hamming）距离：给定两个序列C1和C2 ，它们对应位取值不同的个数称为C1和C2的汉 明距离。

若C1=10101,C2=01111;则 d(C1,C2)=3v汉明重量：序列C中非零码元的个数w(C1)=3,w(C2)=4v最小汉明距离：(n, k)分组码中，设任意两个码 字之间距离的最小值为d0，则d0定义为该分组码 的最小汉明（Hamming）距离Date14码纠错能力及编码增益v任一(n, k)分组码，若要在码字内： Ø1) 检测e个随机错误，则要求码的最小汉明距离 d0>=e+1 Ø 2) 纠正t个随机错误，则要求d0>=2t+1 Ø3) 纠正t个随机错误，同时检测e (e>=t)个错误，则要 求d0>=e+t+1 Ø4) 纠正t个随机错误和ρ个删除，则要求 d0>=2t+ρ+1 v编码增益： Ø给定性能前提下，编码增益=未编码时需要的信噪比(dB) – 编码时需要 的 信噪比(dB)Date15编码增益v重复码不存在编码增益 Ø引理：假定N维格用Λ表示，格的最小距离表示为为 dmin(Λ),格中每个点的体积积表示为为Vol(Λ)则则格Λ的编编 码码增益为为Ø将(n,1)重复码码看作一维维格Λ ，则则有dmin(Λ)=2n-1， Vol(Λ)= 2n-1, 因此Date16基本译码方法v译码问题 ØMC R；如何根据接收信号R估计发送序列C’,进 而估计信息序列M’ Ø设计译码算法的原则：使译码错误概率最小v最大后验概率(MAP: Maximum Posterior Probability)译码Date17基本译码方法v最大似然 (ML: Maximum Likelihood)译码v在先验等概的情况下，MAP简化为MLDate18信道编码定理v 信道编码定理 Ø 任意离散输入无记忆平稳有噪信道都有一个被称为信道容量的值 C，它标志着信道传输能力的上限，只要信息传输速率R≤C，就 存在一种编码方式，当平均码长足够大时，译码错误概率可以做 到任意小；反之，则无论采用何种编码方式也不可能保证错误概 率任意小。

v 信道容量 Ø 信道容量定义为信道输入与信道输出的互信息，它表征了信道可 靠传输的最大速率最常见的信道容量计算式就是带宽、功率受 限下的加性高斯白噪声（AWGN）信道容量计算式设AWGN 信道带宽受限于[-W, W]，噪声双边功率谱密度为N0/2，信号功 率为P，则 Ø 这个容量仅在输入服从高斯分布的情况下可以达到如果输入信 号调制受限，那么容量将会小于上面这个值 Date19信道容量vBSC Ø对转移概率为p的二进制对称信道而言，当输入等概 时，互信息取得最大值，信道容量为其中 是二元熵函数 vBEC C=1-p vBIAWGNDate20Claude E. Shannonv著名信息论和编码学者Dr. Richard Blahut 在Shannon塑像的落成典礼上这样评价Shannon：Ø在我看来，两三百年之后，当人们回过头来看我们这 个时代的时候，他们可能不会记得谁曾是美国总统， 他们也不会记得谁曾是影星或摇滚歌星，但是仍然会 知晓Shannon的名字，学校里仍然会讲授信息论C. E. ShannonDate21。