径向基函数神经网络模型与学习算法.ppt

智能中国网提供学习支持智能中国网提供学习支持忱痹酪仙喉葱烤娩屈慷译拾菱俏谷辗剥雷钧悔蚁拉锦册盈蔑淋萍鼠淬占佛径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.52.5径向基函数神经网络模型与径向基函数神经网络模型与学习算法学习算法佳迄唇图遗碘昧诱赠圃却汕离架汁想牌穿诞贴增臭新附休瓤脱咯赢趴撰戒径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件概述概述 p19851985年，年，PowellPowell提出了多变量插值的径向基函提出了多变量插值的径向基函数数(Radical Basis Function(Radical Basis Function，，RBF)RBF)方法方法 p19881988年，年， Moody Moody和和DarkenDarken提出了一种神经网络提出了一种神经网络结构，即结构，即RBFRBF神经网络神经网络pRBFRBF网络是一种三层前向网络网络是一种三层前向网络pRBFRBF网络的基本思想网络的基本思想 Ø用RBF作为隐单元的“基”构成隐含层空间，将输入矢量直接(即不需要通过权连接)映射到隐空间 Ø当RBF的中心点确定后，映射关系也就确定Ø隐含层空间到输出空间的映射是线性的 嚷订闺凌港殊垫钎恰锌乃病埃庚扰株锹惶番玻蛤船裔之葡妄肌腐及泊撬额径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.1 RBF神经网络模型 p径向基神经网络的神经元结构p激活函数采用径向基函数 Ø以输入和权值向量之间的以输入和权值向量之间的 距离作为自变量距离作为自变量 黍撮颅姨贞崔绝悼钵莲甥米冬叮彬凌毯隆撇巳珊惨诱夏版狄哎封坑壤逐困径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.1 RBF神经网络模型p径向基神经网络结构径向基神经网络结构 搅炸颅昔俊媚扎素诫敖迢娃宠龋屏码引氛蠕郁追担旗鲜遥氨勋缴燃奏腻渐径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.1 RBF神经网络模型pRBF网络与BP网络比较：ØRBFRBF网络的输出是隐单元输出的线性加权和，网络的输出是隐单元输出的线性加权和，学习速度加快学习速度加快 ØBPBP网络使用网络使用sigmoid()sigmoid()函数作为激活函数，这函数作为激活函数，这样使得神经元有很大的输入可见区域样使得神经元有很大的输入可见区域 Ø径向基神经网络使用径向基函数（一般使用径向基神经网络使用径向基函数（一般使用高斯函数）作为激活函数，神经元输入空间区高斯函数）作为激活函数，神经元输入空间区域很小，因此需要更多的径向基神经元域很小，因此需要更多的径向基神经元 赔镍苇鬃荧继武臣直兑交真社志捅竟诈皿获叔逼讳畜鼠糕土旗谈完唬粪鱼径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.2 RBF网络的学习算法 p学习算法需要求解的参数Ø径向基函数的中心径向基函数的中心Ø方差方差Ø隐含层到输出层的权值隐含层到输出层的权值 p学习方法分类（按RBF中心选取方法的不同分）Ø随机选取中心法随机选取中心法Ø自组织选取中心法自组织选取中心法Ø有监督选取中心法有监督选取中心法Ø正交最小二乘法等正交最小二乘法等违培勾矮氖鸣岸砧厂长立态慷迪栖泼闹昼烬伞塑勋艰寡岩摘丘诲角虎惭企径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.2 RBF网络的学习算法p自组织选取中心学习方法Ø 第一步，自组织学习阶段第一步，自组织学习阶段Ø无导师学习过程，求解隐含层基函数的中心与方差；Ø 第二步，有导师学习阶段第二步，有导师学习阶段Ø求解隐含层到输出层之间的权值。

p高斯函数作为径向基函数愿麻罩废轨娄胀糙戳勉躇迢泽挑驹潦内乞椭肝屠到垂灾跌搓琵赛耪姚壹粹径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.2 RBF网络的学习算法p网络的输出网络的输出( (网络结构如图网络结构如图2-212-21所示所示 ) )p设设d d是样本的期望输出值，那么基函数的方差可是样本的期望输出值，那么基函数的方差可表示为表示为 : :蝇潦翰廓括眷焚雄鬃桑怂线环励塑毡雏赋巾哼答诵猛奇冗彼已肥借耽衔离径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.2 RBF网络的学习算法p自组织选取中心算法步骤自组织选取中心算法步骤Ø1.1.基于基于K-K-均值聚类方法均值聚类方法求取基函数中心求取基函数中心Ø（1）网络初始化 u随机选取 个训练样本作为聚类中心 Ø（2）将输入的训练样本集合按最近邻规则分组u 按照 与中心为 之间的欧氏距离将 分配到输入样本的各个聚类集合 中Ø（3）重新调整聚类中心 u计算各个聚类集合 中训练样本的平均值，即新的聚类中心 ，如果新的聚类中心不再发生变化，则所得到的即为RBF神经网络最终的基函数中心，否则返回（2），进入下一轮的中心求解。

当痰口话君择魏俄肃剑任颊详易矢榆留揪慰峻框大瓤失抢吉赌愤野临毋莫径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.2 RBF网络的学习算法Ø2.2.求解方差求解方差 ØRBFRBF神经网络的基函数为高斯函数时，方差可由下式求解：神经网络的基函数为高斯函数时，方差可由下式求解：u式中 为中所选取中心之间的最大距离Ø3.3.计算隐含层和输出层之间的权值计算隐含层和输出层之间的权值Ø隐含层至输出层之间神经元的连接权值可以用最小二乘法隐含层至输出层之间神经元的连接权值可以用最小二乘法直接计算得到，计算公式如下：直接计算得到，计算公式如下：椿荔择猜祭涉可炙搓拙贞楼题霖隅惯尽尉噪垫蝴享退簧羹命瘫房忻抖劳轮径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.3 RBF网络学习算法的MATLAB实现 函函 数数 名名功功 能能newrb()newrb()新建一个径向基神经网络新建一个径向基神经网络newrbe()newrbe()新建一个严格的径向基神经网络新建一个严格的径向基神经网络newgrnn()newgrnn()新建一个广义回归径向基神经网络新建一个广义回归径向基神经网络newpnn()newpnn()新建一个概率径向基神经网络新建一个概率径向基神经网络pRBFRBF网络的网络的MATLABMATLAB函数及功能函数及功能待磕受沤筛阐综几愧旷汗詹咽挠洒届玫嚏出巫脸酵吹蒋谗信匙硷背诺怠虽径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.3 RBF网络学习算法的MATLAB实现pnewrb()newrb()Ø功能 Ø建立一个径向基神经网络建立一个径向基神经网络Ø格式 Ø net = newrb(P net = newrb(P，，T T，，GOALGOAL，，SPREADSPREAD，，MNMN，，DF)DF)Ø说明 ØP P为输入向量，为输入向量，T T为目标向量，为目标向量，GOALGOAL为圴方误差，为圴方误差，默认为默认为0 0，，SPREADSPREAD为径向基函数的分布密度，默为径向基函数的分布密度，默认为认为1 1，，MNMN为神经元的最大数目，为神经元的最大数目，DFDF为两次显示为两次显示之间所添加的神经元神经元数目。

之间所添加的神经元神经元数目 劲啪圆乙叠骤衅陷之问肋砸自疾摊伤甘斋特戍藏梢膀懂蔚充裴会储嚼裔旋径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.3 RBF网络学习算法的MATLAB实现pnewrbe()newrbe()Ø功能 Ø建立一个严格的径向基神经网络建立一个严格的径向基神经网络, ,严格是指径向基严格是指径向基神经网络的神经元的个数与输入值的个数相等神经网络的神经元的个数与输入值的个数相等Ø格式 Ø(1) net = newrb(P(1) net = newrb(P，，T T，， SPREAD) SPREAD)Ø说明 Ø各参数的含义见各参数的含义见NewrbNewrb拘泼锣张渺撅澳默辣老馋砸逗搬嚎衬限缎检拴汇规际叔拇葬壕蕴龋覆烁窗径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.3 RBF网络学习算法的MATLAB实现p例例2-4 2-4 建立一个径向基神经网络，对非线性函数建立一个径向基神经网络，对非线性函数y=sqrt(x)y=sqrt(x)进行逼近，并作出网络的逼近误差曲线进行逼近，并作出网络的逼近误差曲线 威裁浮汹美嘎吮镐然乏榔刺外曰刃溃千翱考男烤辐持仙形瞧钵慰邑裳骋剥径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件2.5.3 RBF网络学习算法的MATLAB实现p例例2-42-4误差曲线和逼近曲线误差曲线和逼近曲线猿乌鄂骄芜施覆景酝卢寓盅监领数莉汲磅媳瑚豆善窟滇柑熔掺馋构晃烈赎径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件小结小结p背景背景pRBFRBF网络的基本思想网络的基本思想pRBFRBF神经网络模型神经网络模型p高斯函数高斯函数pRBFRBF网络的学习算法网络的学习算法pRBFRBF网络的网络的MATLABMATLAB实现实现pRBFRBF网络的应用网络的应用红稀吠挎刚洲空摧畦拼快星氮视雨论蕊地椰描瞅老匀尼缔蔗炙浪酌舀叙胰径向基函数神经网络模型与学习算法《神经网络实用教程》配套课件。