神经网络模型与学习算法ppt课件
23页1、2.5径向基函数神经网络模型与学习算法,概述,1985年,Powell提出了多变量插值的径向基函数(Radical Basis Function,RBF)方法 1988年, Moody和Darken提出了一种神经网络结构,即RBF神经网络 RBF网络是一种三层前向网络 RBF网络的基本思想 用RBF作为隐单元的“基”构成隐含层空间,将输入矢量直接(即不需要通过权连接)映射到隐空间 当RBF的中心点确定后,映射关系也就确定 隐含层空间到输出空间的映射是线性的,2.5.1 RBF神经网络模型,径向基神经网络的神经元结构 激活函数采用径向基函数 以输入和权值向量之间的 距离作为自变量,2.5.1 RBF神经网络模型,径向基神经网络结构,2.5.1 RBF神经网络模型,RBF网络与BP网络比较: RBF网络的输出是隐单元输出的线性加权和,学习速度加快 BP网络使用sigmoid()函数作为激活函数,这样使得神经元有很大的输入可见区域 径向基神经网络使用径向基函数(一般使用高斯函数)作为激活函数,神经元输入空间区域很小,因此需要更多的径向基神经元,2.5.2 RBF神经网络工作原理,RBF的非线
2、性分类能力是什么?,2.5.2 RBF神经网络工作原理,空间1 空间2 不易解决问题 易解决问题,变换,空间1 空间2 线性不可分 线性可分,空间变换,2.5.2 RBF神经网络工作原理,RBF解决异或问题,2.5.2 RBF神经网络工作原理,RBF解决异或问题,2.5.2 RBF神经网络工作原理,逼近任意曲线(程序演示),2.5.2 RBF网络的学习算法,学习算法需要求解的参数 径向基函数的中心 方差 隐含层到输出层的权值 学习方法分类(按RBF中心选取方法的不同分) 随机选取中心法 自组织选取中心法 有监督选取中心法 正交最小二乘法等,2.5.2 RBF网络的学习算法,自组织选取中心学习方法 第一步,自组织学习阶段 无导师学习过程,求解隐含层基函数的中心与方差; 第二步,有导师学习阶段 求解隐含层到输出层之间的权值。 高斯函数作为径向基函数,2.5.2 RBF网络的学习算法,网络的输出(网络结构如图2-21所示 ) 设d是样本的期望输出值,那么基函数的方差可表示为 :,2.5.2 RBF网络的学习算法,自组织选取中心算法步骤 1.基于K-均值聚类方法求取基函数中心 (1)网络初始化
3、。 随机选取 个训练样本作为聚类中心 。 (2)将输入的训练样本集合按最近邻规则分组。 按照 与中心为 之间的欧氏距离将 分配到输入样本的各个聚类集合 中。 (3)重新调整聚类中心。 计算各个聚类集合 中训练样本的平均值,即新的聚类中心 ,如果新的聚类中心不再发生变化,则所得到的即为RBF神经网络最终的基函数中心,否则返回(2),进入下一轮的中心求解。,2.5.2 RBF网络的学习算法,2.求解方差 RBF神经网络的基函数为高斯函数时,方差可由下式求解: 式中 为中所选取中心之间的最大距离。 3.计算隐含层和输出层之间的权值 隐含层至输出层之间神经元的连接权值可以用最小二乘法直接计算得到,计算公式如下:,2.5.3 RBF网络学习算法的MATLAB实现,RBF网络的MATLAB函数及功能,2.5.3 RBF网络学习算法的MATLAB实现,newrb() 功能 建立一个径向基神经网络 格式 net = newrb(P,T,GOAL,SPREAD,MN,DF) 说明 P为输入向量,T为目标向量,GOAL为圴方误差,默认为0,SPREAD为径向基函数的分布密度,默认为1,MN为神经元的最大数目,DF为两次显示之间所添加的神经元神经元数目。,2.5.3 RBF网络学习算法的MATLAB实现,newrbe() 功能 建立一个严格的径向基神经网络,严格是指径向基神经网络的神经元的个数与输入值的个数相等。 格式 (1) net = newrb(P,T, SPREAD) 说明 各参数的含义见Newrb。,2.5.3 RBF网络学习算法的MATLAB实现,例2-4 建立一个径向基神经网络,对非线性函数y=sqrt(x)进行逼近,并作出网络的逼近误差曲线。,2.5.3 RBF网络学习算法的MATLAB实现,例2-4误差曲线和逼近曲线,程序演示,小结,背景 RBF网络的基本思想 RBF神经网络模型 RBF神经网络工作原理 高斯函数 RBF网络的学习算法 RBF网络的MATLAB实现 RBF网络的应用,谢谢聆听,
《神经网络模型与学习算法ppt课件》由会员我***分享,可在线阅读,更多相关《神经网络模型与学习算法ppt课件》请在金锄头文库上搜索。
2020届中考英语备考复习-作文课件
2019年中考英语复习-专题十五-交际运用(试卷部分)课件
2019届二轮复习-高中英语-情态动词和虚拟语气课件
2019届一轮复习苏教版物质的跨膜运输课件
2019年北师大版英语单元复习课件::Unit17Laughter课件北师大版选修6
2021届新中考物理冲刺备考复习-力-弹力-重力课件
2019届一轮复习人教版种群的特征和数量变化课件
2020年高考地理一轮复习--等高线地形图-课件
2019版高考英语一轮复习-Unit-1-Living-well课件
2019届一轮复习人教版孟德尔的遗传定律——基因分离定律课件
2019届高三第二轮复习专题二万有引力定律及其应用课件
2020最新部编版语文五年级上册23-鸟的天堂课件含课后练习
2020版高考(浙江)一轮复习:第7讲-细胞呼吸课件
2020年新教材高中英语UNIT4HISTORYANDTRADITIONSSectionⅢDiscoveringUsefulStructures课件必修第二册
2019届高考历史二轮复习阶段三专题十三罗斯福新政与当代资本主义的新变化课件2
2019版高考生物二轮复习-专题三-细胞的生命历程-考点9-细胞分裂过程图像和坐标曲线的识别课件
(通史版)2021版高考历史一轮复习第4部分高考讲座(三)2高考非选择题(12分开放探究题)规范答题讲练课件
2019届高三地理复习第五讲--《区际联系与区域协调发展》课件
2021人教部编版历史九年级上册习题课件:第18课美国的独立
2020学年新教材高中英语Unit1FoodforthoughtPeriodTwoStartingout课件
2024-04-18 25页
2024-04-18 29页
2024-04-18 38页
2024-04-18 16页
2024-04-09 21页
2024-04-09 26页
2024-04-09 28页
2024-04-09 19页
2024-04-09 26页
2024-04-09 23页