模式与模式识别概论.ppt

理学院理学院武汉理工大学武汉理工大学第一章第一章 概论概论Pattern Recognitionwanwanyuan@武汉理工大学理学院武汉理工大学理学院2013n1 模式及模式识别的概念模式及模式识别的概念n2 模式识别系统模式识别系统n3 模式识别的应用模式识别的应用n4 模式识别的方法模式识别的方法第一章第一章 模式识别概论模式识别概论武汉理工大学理学院武汉理工大学理学院20131.1 模式及模式识别的概念模式及模式识别的概念n模式识别模式识别(Pattern Recognition)(Pattern Recognition)：：确定一个样本的类别确定一个样本的类别属性（模式）的过程，即把某一样本归属于多个类属性（模式）的过程，即把某一样本归属于多个类型中的某个类型型中的某个类型. .n样本（样本（Sample)Sample)：：所研究对象的一个个体，所研究对象的一个个体， 如患者的如患者的细胞、一个汉字、一幅图片、一段视频等细胞、一个汉字、一幅图片、一段视频等. .n模式模式( Pattern( Pattern) )：：对研究对象所具有的特征和信息的描对研究对象所具有的特征和信息的描述，对某类事物的抽象也成为该类的模式述，对某类事物的抽象也成为该类的模式 . .武汉理工大学理学院武汉理工大学理学院2013n人类具有很强的模式识别能力，时刻在完成某种模式人类具有很强的模式识别能力，时刻在完成某种模式识别的任务。

识别的任务n模式识别是从样本到类别的映射模式识别是从样本到类别的映射样本样本模式模式识别识别类别类别1.1 模式及模式识别的概念模式及模式识别的概念武汉理工大学理学院武汉理工大学理学院2013n1929年年 G. Tauschek发明阅读机发明阅读机 ，能够阅读，能够阅读0-9的数字n30年代年代 Fisher提出统计分类理论，奠定了统计模式识别的基础提出统计分类理论，奠定了统计模式识别的基础n50年代年代 Noam Chemsky 提出形式化语言理论，傅京荪提出形式化语言理论，傅京荪 提出句法结构提出句法结构模式识别模式识别n60年代年代 L.A.Zadeh提出了模糊集理论，模糊模式识别方法得以发展和提出了模糊集理论，模糊模式识别方法得以发展和应用n80年代以年代以Hopfield网、网、BP网为代表的神经网络模型使人工神经元网络网为代表的神经网络模型使人工神经元网络复活，并在模式识别得到广泛的应用复活，并在模式识别得到广泛的应用n90年代小样本学习理论，支持向量机受到了很大的重视年代小样本学习理论，支持向量机受到了很大的重视模式识别模式识别简史简史武汉理工大学理学院武汉理工大学理学院2013n1、数据获取、数据获取n2、预处理、预处理n3、特征抽取、特征抽取n4、分类器设计、分类器设计1.2 模式识别系统模式识别系统武汉理工大学理学院武汉理工大学理学院20131.2 模式识别系统模式识别系统数据获取数据获取预处理预处理特征提取特征提取与选择与选择分类器设分类器设计与改进计与改进训练样本集训练样本集训练样本集训练样本集 待识样本集待识样本集待识样本集待识样本集 数据获取数据获取预处理预处理特征提取特征提取与选择与选择识别结果识别结果分类决策分类决策分分类类过过程程学学习习过过程程武汉理工大学理学院武汉理工大学理学院2013n在传送带上用光学传感器件对鱼按品种分类鲈鱼(Seabass)品种鲑鱼(Salmon)模式识别过程实例模式识别过程实例武汉理工大学理学院武汉理工大学理学院2013识别过程识别过程识别过程识别过程 武汉理工大学理学院武汉理工大学理学院2013n数据获取：架设一个摄像机，采集一些样本图像，获数据获取：架设一个摄像机，采集一些样本图像，获取样本数据取样本数据n预处理：去噪声，用一个分割操作把鱼和鱼之间以及预处理：去噪声，用一个分割操作把鱼和鱼之间以及鱼和背景之间分开鱼和背景之间分开识别过程识别过程识别过程识别过程 武汉理工大学理学院武汉理工大学理学院2013n特征提取和选择：对单个鱼的信息进行特征选择，特征提取和选择：对单个鱼的信息进行特征选择，从而通过测量某些特征来减少信息量从而通过测量某些特征来减少信息量–长度长度–亮度亮度–宽度宽度–鱼翅的数量和形状鱼翅的数量和形状–嘴的位置嘴的位置n分类决策：把特征送入决策分类器分类决策：把特征送入决策分类器识别过程识别过程识别过程识别过程 武汉理工大学理学院武汉理工大学理学院2013识别过程识别过程识别过程识别过程 武汉理工大学理学院武汉理工大学理学院2013识别过程识别过程识别过程识别过程 武汉理工大学理学院武汉理工大学理学院2013识别过程识别过程识别过程识别过程 武汉理工大学理学院武汉理工大学理学院2013识别过程识别过程识别过程识别过程 武汉理工大学理学院武汉理工大学理学院2013武汉理工大学理学院武汉理工大学理学院2013 1.数据获取数据获取n为了使计算机能够对客体进行分类识别，必须将客体用计为了使计算机能够对客体进行分类识别，必须将客体用计算机所能接受的形式表示，通常从客体获得的信息有下列算机所能接受的形式表示，通常从客体获得的信息有下列三种类型三种类型n ① ①二维图像，如文字、指纹、照片等；二维图像，如文字、指纹、照片等；n ② ②一维波形，如语音、机械振动波、心电团等；一维波形，如语音、机械振动波、心电团等；n ③ ③物理参量或逻辑值，如体温、各种实验数据等。

物理参量或逻辑值，如体温、各种实验数据等n 通过测量、采样和量化，可以用矩阵或向量表示二维通过测量、采样和量化，可以用矩阵或向量表示二维图象或一维波形，这就是信息获取过程图象或一维波形，这就是信息获取过程武汉理工大学理学院武汉理工大学理学院20132．预处理．预处理n预处理的目的是去除噪声，加强有用的信息，预处理的目的是去除噪声，加强有用的信息，并对种种因素造成的退化现象进行复原并对种种因素造成的退化现象进行复原某人声音有杂音某人声音有杂音某人声音有杂音某人声音有杂音清晰声音清晰声音清晰声音清晰声音图像预处理图像预处理图像预处理图像预处理语音信号预处理语音信号预处理语音信号预处理语音信号预处理模糊图像模糊图像模糊图像模糊图像清晰图像清晰图像清晰图像清晰图像武汉理工大学理学院武汉理工大学理学院20133．．特征提取特征提取n为了有效地实现分类识别，要对原始数据进行选择或变换，为了有效地实现分类识别，要对原始数据进行选择或变换，得到最能反应分类本质的待征，构成特征向量得到最能反应分类本质的待征，构成特征向量人脸几何特征人脸几何特征人脸几何特征人脸几何特征人脸部件规一化的点间距离和比率特征点人脸部件规一化的点间距离和比率特征点人脸部件规一化的点间距离和比率特征点人脸部件规一化的点间距离和比率特征点如眼角、嘴角、鼻尖等如眼角、嘴角、鼻尖等如眼角、嘴角、鼻尖等如眼角、嘴角、鼻尖等人脸的颜色特征人脸的颜色特征人脸的颜色特征人脸的颜色特征 黄皮肤、黑眼睛黄皮肤、黑眼睛黄皮肤、黑眼睛黄皮肤、黑眼睛统计特征统计特征统计特征统计特征脸形模板和图象灰度的自相关性脸形模板和图象灰度的自相关性脸形模板和图象灰度的自相关性脸形模板和图象灰度的自相关性武汉理工大学理学院武汉理工大学理学院2013 4．分类器设计．分类器设计n为了把待识模式分配到各自的模式类中去，必须设计为了把待识模式分配到各自的模式类中去，必须设计出分类判别规则。

出分类判别规则n基本作法是：用一定数量的样本基本作法是：用一定数量的样本( (称为训练样本集称为训练样本集) )确定确定出一套分类判别规则，使得按这套分类判别规则对待出一套分类判别规则，使得按这套分类判别规则对待识模式进行分类所造成的错误识别率最小或引起约损识模式进行分类所造成的错误识别率最小或引起约损失最小n分类器按已确定的分类判别规则对待识模式进行分类分类器按已确定的分类判别规则对待识模式进行分类判别，输出分类结果判别，输出分类结果武汉理工大学理学院武汉理工大学理学院2013监督学习和非监督学习监督学习和非监督学习非监督学习非监督学习没有类别标签，没有类别标签， 通常利用聚类方法完成通常利用聚类方法完成样本的分类样本的分类半监督学习半监督学习部分样本有类别标签，部分样本有类别标签， 目标与有监督分目标与有监督分类一致类一致监督学习监督学习划分的类别已知，且训练样本已知类别信息划分的类别已知，且训练样本已知类别信息武汉理工大学理学院武汉理工大学理学院2013监督学习监督学习监督学习和非监督学习监督学习和非监督学习划分的类别已知，且训练样本已知类别信息非监督学习非监督学习半监督学习半监督学习没有类别标签， 通常利用聚类方法完成样本的分类部分样本有类别标签， 目标与有监督分类一致地面覆盖物的图示地面覆盖物的图示两波段多光谱图像两波段多光谱图像聚类的各种特征聚类的各种特征武汉理工大学理学院武汉理工大学理学院2013应用领域应用领域应用领域应用领域1.3 模式识别的应用模式识别的应用文本分类文本分类文本图像分析文本图像分析工业自动化工业自动化数据挖掘数据挖掘多媒体数据库检索多媒体数据库检索生物特征识别生物特征识别语音识别语音识别生物信息学生物信息学遥感遥感……武汉理工大学理学院武汉理工大学理学院20131.3 模式识别的应用模式识别的应用• 准确性准确性• 速度速度• 存储量存储量• 价格价格指纹识别指纹识别指纹采集指纹采集生成指纹图像生成指纹图像预处理预处理（极值滤波）（极值滤波）（一次平滑）（一次平滑）（锐化）（锐化）（二次平滑）（二次平滑） 细细 化化 二二 值值 化化 提提 取取 特特 征征 点点指纹库指纹库指纹匹配指纹匹配输出结果输出结果指纹图像处理指纹图像处理武汉理工大学理学院武汉理工大学理学院20131.3 模式识别的应用模式识别的应用语音信号处理与识别语音信号处理与识别•语音识别语音识别• 说话人识别说话人识别• 语种识别语种识别• 口音识别口音识别武汉理工大学理学院武汉理工大学理学院20131.3 模式识别的应用模式识别的应用人脸图像识别人脸图像识别• 人脸检测和定位人脸检测和定位• 人脸识别人脸识别• 虹膜识别虹膜识别应用：应用：图象压缩图象压缩视频监视视频监视基于内容的图象检索基于内容的图象检索武汉理工大学理学院武汉理工大学理学院2013医学信号的处理、识别和分类：医学信号的处理、识别和分类：细胞正常与异常判断，染色体分类，心电脑电图，细胞正常与异常判断，染色体分类，心电脑电图，测谎仪测谎仪…1.3 模式识别的应用模式识别的应用武汉理工大学理学院武汉理工大学理学院2013应用领域应用领域应用领域应用领域1.3 模式识别的应用模式识别的应用武汉理工大学理学院武汉理工大学理学院2013n 1. 模板匹配识别方法模板匹配识别方法n 2. 句法识别方法句法识别方法n 3. 统计识别方法统计识别方法n 4. 人工神经网络方法人工神经网络方法1.4 模式识别方法模式识别方法武汉理工大学理学院武汉理工大学理学院2013模版匹配n首先对每个类别建立一个或多个模版n输入样本和数据库中每个类别的模版进行比较，求相关或距离n根据相关性或距离大小进行决策n优点：直接、简单n缺点：适应性差方法方法武汉理工大学理学院武汉理工大学理学院2013句法模式n许多复杂的模式可以分解为简单的子模式，这些子模式组成所谓 “基元”n每个模式都可以由基元根据一定的关系来组成n基元可以认为是语言中的词语，每个模式都可以认为是一个句子，关系可以认为是语法n模式的相似性由句子的相似性来决定n优点：适合结构性强的模式n缺点：抗噪声能力差，计算复杂度高方法方法武汉理工大学理学院武汉理工大学理学院2013句法模式方法方法武汉理工大学理学院武汉理工大学理学院2013统计方法n根据训练样本，建立决策边界 –统计决策理论——根据每一类总体的概率分布决定决策边界–判别式分析方法——给出带参数的决策边界，根据某种准则，由训练样本决定“最优”的参数n本课程的重点内容本课程的重点内容方法方法武汉理工大学理学院武汉理工大学理学院2013神经网络n神经网络是受人脑组织的生理学启发而创立的。

n由一系列互相联系的、相同的单元（神经元）组成相互间的联系可以在不同的神经元之间传递增强或抑制信号n增强或抑制是通过调整神经元相互间联系的权重系数来（weight）实现n进行大规模并行计算的数学模型n优点：可以有效的解决一些复杂的非线性问题n缺点：缺少有效的学习理论方法方法武汉理工大学理学院武汉理工大学理学院2013习题习题1.试简述样本，模式和模式类等概念间的关系试简述样本，模式和模式类等概念间的关系2.试简述模式识别系统的主要组成部分试简述模式识别系统的主要组成部分。