信息论课件第三章信道容量
80页1、第1章:概述,第2章:信源熵,第3章:信道容量,第4章:信息率失真函数,第5章:信源编码,第6章:信道编码,第7章:密码体制的安全性测度,3.1 信道容量的数学模型和分类 3.2 单符号离散信源 3.3 多符号离散信源 3.4 多用户信道 3.5 信道编码定理,3.1 信道的数学模型和分类,信道的数学模型:,X P(Y/X) Y,无干扰信道,有干扰信道,有记忆信道,无记忆信道,单符号 信道,多符号 信道,单用户信道,多用户信道,3.1 信道的数学模型和分类,3.2 单符号离散信道,3.3 多符号离散信道,3.4 多用户信道,3.5 信道编码定理,3.2 单符号离散信道的信道容量,3.2.1 信道容量的定义 3.2.2 几种特殊离散信道的容量 3.2 .3 离散信道容量的一般计算方法,3.2.1 信道容量的定义,信道转移概率矩阵:(见下页),信道模型:,13,如果信源熵为H(X),我们希望在信道的输出端接收的信息量就是H(X)。但由于干扰的存在,一般情况下在输出端只能接收到I(X;Y),把信道中平均每个符号所能传送的信息量或者说每传送一个符号流经信道的平均信息量,作为信道的信息传输率R,
2、 最大的信息传输率为信道容量。 即R=Imax(X;Y)=H(X)-H(X|Y ) bit/符号 信道在单位时间内平均传输的信息量定义为单位时间的信道容量(信息传输速率) 单位为bit/s,3.1.3信道容量的定义,14,因而,求有扰离散信道上的信息传输率R,实质上就是求平均互信息量I (X ; Y )。 I(X;Y) H(X) 有扰离散信道的信道容量也是指在不失真传输的条件下,信道所能传送的最大信息量.即信道容量,即 C = I max (X;Y);C的单位是信道上每传送一个符号(每使用一次信道)所能携带的比特数,即bit/符号(bit/symbol or bit/channel use),3.1.3信道容量的定义,15,信道容量C是信道的最大传输能力,是信道自身的特性。能使平均互信息量达到信道容量C的信源称为匹配信源。平均互信息量与信源和信道特性都有关系,但信道容量应仅与信道特性有关,所以在各种可能的p(x)中,必然能够找到一个分布,使I (X;Y)达到最大值I (X;Y)max,,3.1.3信道容量的定义,信道容量,3.2 单符号离散信道的信道容量,3.2.1 信道容量的定义 3
3、.2.2 几种特殊离散信道的容量 3.2 .3 离散信道容量的一般计算方法,3.2.2 几种特殊离散信道的容量,一、离散无噪信道 1、一一对应的无噪信道,故有I (X;Y)=H(X)=H(Y),当输入符号为等概率分布,也就是说已知某个a,对应的b完全确定;但是已经收到某个b,对应的a也完全确定。所以H(Y|X)=0, H(X|Y)=0,,X和Y有确定的对应关系。,相应的信道容量为,2、具有扩展功能的无噪信道,21,已知Y后,X不再有任何不确定度。例如,输出端收到b2后可以确定输入端发送的是a1,收到b7后可以确定输入端发送的是a3,等等。 H(X|Y)=0, H(Y|X)0 ,),故有 I(X;Y)=H(X) 显然其信道容量,3、具有归并性的无噪信道,23,信道矩阵中的元素非“0”即“1”,每行仅有一个非零元素,但每列的非零元素个数大于1。也就是说已知某个a,对应的b完全确定;但是已经收到某个b,对应的a不完全确定。 所以H(Y|X)=0, H(X|Y)0, 相应的信道容量为,多个输入变成一个输出,综合以上三种无噪声信道,我们得出一个结论,无噪声信道的信道容量C只决定于信道的输入符号数
《信息论课件第三章信道容量》由会员E****分享,可在线阅读,更多相关《信息论课件第三章信道容量》请在金锄头文库上搜索。
逍遥游复习 知识点整理
近现代法德关系史 高三展示课3稿
当代大学生人生信仰及追求的调查研究
长相思 纳兰性德-ppt课件
课件:危机意识 一
英语ppt演讲关于阿甘正传
发达国家基础教育改革的动向与趋势 修改版
中国民间美术 课件.ppt
生物质发电技术与系统 课程ppt 第1章 生物质发电技术现状及发展趋势 2学时 -----2016
现代信号处理思考题 含答案
执业药师继续教育 抑郁症的药物治疗 100分
小学生的成长档案模板不用修改 万能型
增订六版 现代汉语 上册 第二章文字 思考与练习答案
国家财政ppt课件
加拿大英语介绍
六年级统计图的选择课件
中学生成长档案ppt
中国现代文学史期末复习整理
lohi和hihilo训练对女子赛艇运动员运动能力影响的比较研究
风雨贾平凹阅读答案
2024-04-11 25页
2024-04-11 37页
2024-04-11 28页
2024-04-11 31页
2024-04-11 36页
2024-04-11 29页
2024-04-11 22页
2024-04-11 27页
2024-04-11 34页
2024-04-11 32页