数字通信原理读书笔记.doc

1 章 引言数字通信系统功能性框图和基本组成部分：理论上，应当用尽可能少的二进制数字表示信源输出（消息） 换句话说，我们要寻求一种信源输出的有效的表示方法，使其很少产生或不产生冗余将模拟或数字信源的输出有效地变换成二进制数字序列的处理过程称为信源编码或数据压缩由信源编码器输出的二进制数字序列称为信息序列，它被传送到信道编码器信道编码器的目的是在二进制信息序列中以受控的方式引入一些冗余，以便于在接收机中用来克服信号在信道中传输时所遭受的噪声和干扰的影响因此，所增加的冗余是用来提高接收数据的可靠性以及改善接收信号的逼真度的实际上，信息序列中的冗余有助于接收机译出期望的信息序列更复杂的（不平凡的）编码涉及到一次取 k 个信息比特，并将每个 k 比特序列映射成惟一的 n 比特序列，该序列称为码字以这种方式对数据编码所引入的冗余度的大小是由比率 n/k 来度量的该比率的倒数，即k/n，称为码的速率或简称码率 信道编码器输出的二进制序列送至数字调制器，它是通信信道的接口数字调制的主要目的是将二进制信息序列映射成信号波形 （Page 1）假定已编码的信息序列以均匀速率 R(b/s)一次一个比特传输，数字调制器可以简单地将二进制数字“0”映射成波形 s0(t)，而二进制数字“1”映射成波形 s1(t)。

在这种方式中，信源编码器输出的每一比特是分别传输的我们把它称为二进制调制另一种方式，调制器一次传输 b 个已编码的信息比特，其方法是采用 M=2b 个不同的波形si(t)，i=0,1,2,…,M，每一个波形用来传输 2b 个可能的 b 比特序列中的一个序列我们称这种方式为 M 元调制（M>2 ） 注意，每 b/R 秒就有一个新的 b 比特序列进入调制器因此，当信道比特率 R 固定，与一个 b 比特序列相应的 M 个波形之一的传输时间量是二进制码制系统时间周期的 b 倍通信信道是用来将发送机的信号发送给接收机的物理媒质无论用什么物理媒质来传输信息，其基本特点是发送信号随机地受到各种可能机理的恶化，例如由电子器件产生的加性热噪声、人为噪声（如汽车点火噪声）及大气噪声（如在雷暴雨时的闪电） 在数字通信系统的接收端，数字解调器对受到信道恶化的发送波形进行处理，并将该波形还原成一个数的序列，该序列表示发送数据符号的估计值（二进制或 M 元） 这个数的序列被送到信道译码器，它根据信道编码器所用的关于码的知识及接收数据所含的冗余度重构初始的信息序列解调器和译码器工作性能好坏的一个度量是译码序列中发生差错的频度。

作为最后一步，当需要模拟输出时，信源译码器从信道译码器接收其输出序列，并根据所采用的信源编码方法的有关知识重构由信源发出的原始信号可被表征为通信信道的其他媒质是数据存储媒质，例如磁带、磁盘和光盘在信号通过任何信道传输中的一个共同的问题是加性噪声一般地，加性噪声是由通信系统内部组成元器件所引起的，例如电阻和固态器件有时将这种噪声称为热噪声其他噪声和干扰源也许是系统外面引起的 （Page 2）可以通过增加发送信号功率的方法使噪声的影响最小然而，设备和其他实际因素限制了发送信号的功率电平另一基本的限制是可用的信道带宽带宽的限制通常是由于媒质以及发送机和接收机中组成器件和部件的物理限制产生的这两种限制因素限制了在任何通信信道上能可靠传输的数据量2 章 概率论与随机过程如果两个事件没有公共样点，则这两个事件是互不相容的，也就是说，一个事件的发生会排除其他事件的发生3 章 信源编码假设信源的输出序列是统计独立的，即当前的输出字符与所有过去和将来的输出字符统计无关凡信源输出序列各字符间满足统计独立条件，则称其为无记忆的，这样的信源称为离散无记忆信源（DMS） 3.2 信息的对数度量考虑两个离散随机变量，它们可能的取值分别是 xi(i-1,2,….n)和 yj(j=1,2,…,m)。

假定已观察到某个结果 Y=yj，希望能定量地求出由 Y=yi 的出现而提供的关于 X=xi(1,2,…,n)的信息量我们注意到，当 X 和 Y 统计独立时，Y=y j 的出现对事件 X=xi 的发生不提供任何信息另一方面，当 X 和 Y 完全相关，即 Y=yj 的出现决定了事件 X=xi 的出现时，信息量正是事件X=xi 所能提供的信息量满足这些条件的一个适当的量度是以下条件概率P(X=xi | Y=yj) ≡ P(x i | yj)除以概率P(X=xi) ≡ P(x i)所得比值的对数，也就是说，由于事件 Y=yj 的出现而提供的关于事件 X=xi 的信息量可定义为 xyijijiPI|log;I(xi;yj)称为 xi 和 yj 间的互信息I(xi;yj)的单位是由对数的底决定的，通常选用 2 或者 e当对数的底是 2 时，I(x i;yj)的单位是比特；而当以 e 为底时，I(x i;yj)的单位叫奈特（nat，自然单位Log e 的标准缩写是 ln） 由于lna = ln2/log2a = 0.69315 log2a所以，用奈特量度的信息量是用比特量度的信息量的 ln2 倍。

当随机变量 X 和 Y 统计独立时，P(x i | yj) = P(xi)，因此 I(xi;yj)=0另一方面，当事件 Y=yj的出现惟一地决定了事件 X=xi 出现时，式（3-2-1）分子上的条件概率等于 1，因此xyxiiji PIlog1log;式（3-2-2）也就是事件 X=xi 的信息正是由于这个原因，我们把它叫做事件 X=xi 的自信息，记做 xiiiPIlog1log注意，大概率事件比小概率事件的信息量少事实上，如果仅有发生概率为 P(x)=1 的单一事件，那么它的 I(x)=0当信源的许多输出被看成是一个分组块时，信息量的对数量度具有相加的特点I(xi;yj) = I(yj;xi)由事件 Y=yj 的出现提供的关于事件 X=xi 出现的信息量，应等于由事件 X=xi 的出现提供的关于事件 Y=yj 出现的信息量在 Y=0 的情况下，事件 X=0 发生的互信息是pyxYPXII 10221 0|0;; loglog考虑几个特例首先，若 p0=p1=0，这种信道称为无噪信道，I(0;0) = log22 = 1 比特因此，从输出完全可确定输入。

另一方面，如果 p0=p1=0.5，则信道是无用信道，因为I(0;0) = log21 = 0除了互信息和自信息的定义外，定义以下条件自信息也是很有用的 yxyxjijiji PPI |log|log| I(xi;yj) = I(xi) – I(xi | yj)我们把 I(xi | yj)解释为事件 Y=yj 发生后，事件 X=xi 的自信息一对事件的互信息既可以是正的，也可以是负的，或者是零我们已定义了与一对事件(x i;yj)有关的互信息，它们是两个随机变量 X 和 Y 可能取值的组合如果用联合事件发生的概率对 I(xi;yj)加权，并对所有可能的联合事件求和，可以得到互信息的平均值据此，可得 X 和 Y 的平均互信息为注意，当 X 和 Y 统计独立时，I(X;Y)=0平均互信息的一个重要特性是 I(X;Y)≥0同样地，我们可以定义平均自信息，用 H(X)表示为如 X 表示信源可能的输出字符集， H(X)就表示每个信源字符的平均自信息，我们把它叫做信源的熵在信源输出符号等概的特定情况下，对于所有 i 都有 P(xi)=1/n于是nXHnilog1l)(一般来说，对任何一组给定的信源符号概率，都有 H(X)≤logn。

换句话说，当输出字符等概率时，离散信源的熵最大例 3-2-3 考虑一个可产生统计独立的字符串的信源，其输出或是 0（概率为 q） ，或是1（概率为 1-q） 这个信源的熵为H(X) ≡ H(q) = -qlogq - (1-q)log(1-q)熵函数的最大值发生在 q=0.5 处，此时 H(0.5)=1平均的条件自信息称为条件熵，定义为我们把 H(X|Y)解释为由 Y 的发生而提供的关于事件 X 的信息或不确定度4.3 数字调制信号的表示法在数字信息经通信信道传输的过程中，调制器是接口器件，它将数字信息映射成与信道特性相匹配的模拟波形映射一般是这样进行的：先从信息序列{a n}一次提取 k=log2M 个二进制数字形成分组，再从 M=2k 个确定的有限能量波形{s m(t), m=1,2,…,M}中选择其中之一送往信道传输当数字序列{a n}到波形的映射受到约束时，即在任意时间间隔发送的波形决定于一个或多个先前发送的波形，那么这种调制器称为有记忆的另一方面，当序列{a n}到波形 {sm(t)}的映射没有受到先前发送波形的约束时，这种调制器称为无记忆的除了把调制器划分为无记忆的或有记忆的之外，也可以把它划分为线性的或非线性的。

调制方式的线性特性要求在数字序列到连续波形的映射中适用叠加原理在非线性调制中，连续时间间隔的发送信号不再适用叠加原理在所有情况中，假定在调制器输入端的二进制数字序列的速率均为 R b/s1. 脉冲幅度调制（PAM）信号在数字 PAM 中，信号波形可以表示为式中，{A m, 1≤m≤M}表示 M 个可能的幅度，相应于 M=2k 个可能的 k 比特组成符号波形 g(t)是实信号脉冲，其形状影响发送信号的谱信号幅度 Am 取离散值（电平）Am = (2m-1-M)d (m=1,2,…,M)式中，d 是相邻信号幅度之间的距离PAM 信号的符号速率是 R/k，载波幅度以此速率发生变化，以反映新的信息的传输时间间隔 Tb=1/R 称做 比特间隔，时间间隔 T=k/R=kTb 称做符号间隔数字 PAM 也称为幅移键控（ASK） 4.4 数字调制信号的频谱特性系统设计人员在选择用来发送信息的调制技术时，必须考虑由信道带宽限制造成的约束。