信息论基础教程 教学课件 ppt 作者焦瑞莉 第一章 绪论
19页1、信息论基础教程 随书课件,作者:焦瑞莉、李红莲、冷俊敏,版权所有,转载请注明出处,目 录,第一章 绪论 第二章 信源和熵 第三章 信道及信道容量 第四章 离散信源的无失真编码 第五章 信道编码 第六章 限失真信源编码,第一章 绪论,本章主要内容,信息的概念,香农信息论的内容,信息论发展简史与应用,课程介绍与要求,32学时,专业基础课 香农信息论是本课内容 复习概率知识,结合通信原理有助理解 注重课后习题练习,多讨论 作业占30%,考试占70%,课程介绍与要求,信息概念的定义很多,但直到现在,还没形成完整、明确、为世人所普遍公认的定义。其原因是人们对信息的本质认识还不够。 信息是客观事物状态和特征的反映,具有形式和内容之分。 不同的定义:从不同的侧面,不同的层次上揭示了信息的特性。通常为三类定义:广义信息、技术术语信息和统计信息。,信息的概念,广义信息是将信息的形式和内容全部包 含在内的最广泛意义上的信息。 其特点:形式和内容的统一。,技术术语信息计算机所处理的海量对象,如音频和视频数据、文档资料等在技术层面上统称为信息。 其特点:具体形式,不包含内容。,信息的概念,统计信息可用数学公式
2、严格定义,反映了信息表达形式在统计方面的性质。 其特点:有明确定义的科学名词,它与内容无关,而且不随信息的具体表达式的变化而变化。它独立于形式,反映了信息表达式中统计方面的性质。是统计学上的抽象概念。 香农信息论中定义信息为“用来消除信息接收者某种认识上的不确定性的东西”,即遵循了统计信息的定义。,信息的概念,信息论产生背景 计量信号中信息多少 需要解决的问题: 通信系统中信息传输的效率 信息传输的准确性问题 噪声干扰 频率特性 本质为:信息传输的可靠性与有效性问题。,香农信息论的内容,信息论的主要贡献是: (1)把统计信息定义为“用来消除信息接收者某种认识上的不定性的东西”,并给出了其度量公式熵和互信息; (2)建立了一些重要的性能界:信源输出的最大可能的信息量,为满足一定失真度的要求所必须传递的最小信息量,信道上的最大可能通过能力等; (3)建立了一组重要的编码定理,从理论上指明了为达到上述性能界限应当遵循的信息处理的方法和原则。这就不仅从定性方面而且也从定量方面深刻地揭示了信息传递和处理的规律,使通信的研究从经验的阶段转变为科学。,信道,通信系统模型,消息,信号,恢复的消息,信号+干扰,通信系统模型,信息的特点: 信息是无形的。 信息是可共享的。 信息是无限的。 信息是可度量的。,信息、消息、信号 三者之间的关系,消息是信息的载荷者。消息具有不同的形式:语言、文字、符号、数据、图片等。 构成消息要两个条件: 能被通信双方所理解 可以在通信中传递和交换 同一消息对不同的客体来说可以含有不同的信息量;同一信息可以用不同形式的消息来载荷。,信息、消息、信号 三者之间的关系,信号是消息的表现形式,消息是信号的具体内容。 信号是表示消息的物理量,包括声波、光波、电信号、机械信号等。,信息、消息、信号 三者之间的关系,信息、消息、信号 三者之间的关系,信息论的发展,1948年香农发表The mathematical Theory of Communication 开创了信息论 信息论起源于通信的工程问题,广泛地应用于许多领域,香农信息论,信息论的应用,语音信号的压缩 图像信号的压缩 计算机文件的压缩 降低信息传输所需的功率 计算机网中数据传输可靠性的保证 计算机中的容错问题,
《信息论基础教程 教学课件 ppt 作者焦瑞莉 第一章 绪论》由会员E****分享,可在线阅读,更多相关《信息论基础教程 教学课件 ppt 作者焦瑞莉 第一章 绪论》请在金锄头文库上搜索。
逍遥游复习 知识点整理
近现代法德关系史 高三展示课3稿
当代大学生人生信仰及追求的调查研究
长相思 纳兰性德-ppt课件
课件:危机意识 一
英语ppt演讲关于阿甘正传
发达国家基础教育改革的动向与趋势 修改版
中国民间美术 课件.ppt
生物质发电技术与系统 课程ppt 第1章 生物质发电技术现状及发展趋势 2学时 -----2016
现代信号处理思考题 含答案
执业药师继续教育 抑郁症的药物治疗 100分
小学生的成长档案模板不用修改 万能型
增订六版 现代汉语 上册 第二章文字 思考与练习答案
国家财政ppt课件
加拿大英语介绍
六年级统计图的选择课件
中学生成长档案ppt
中国现代文学史期末复习整理
lohi和hihilo训练对女子赛艇运动员运动能力影响的比较研究
风雨贾平凹阅读答案
2024-04-11 25页
2024-04-11 37页
2024-04-11 28页
2024-04-11 31页
2024-04-11 36页
2024-04-11 29页
2024-04-11 22页
2024-04-11 27页
2024-04-11 34页
2024-04-11 32页