利用量子遗传算法改进bp学习算法.pdf

2 0 09年 第5期计算机 系 统 应 用利用量子遗传算法改进BP学习算法¹UsingQu a ntumGen eticAlgorithmtoImProveBP LearningAlgo rithm阂泉叶水生郭荣传石海霞(南昌航空大学计算机学院江 西南昌330 0 63 )摘要:关健词:针对BP算法易陷入局部极小、收敛速度慢的缺点,根据量子遗传算法具有全局寻优的特点,本文提出了一种新的训练神经网络的混合算法一QG A一BP算法;通过算法比较和 实例结果分析,表明该算法加快了收敛速度、提高了收敛速度量子遗传算法遗传算法BP网络神经网络QGA一B P网络1引言近年来,国际上掀起了一股人工神经 网络研究、开发应用的热潮,其应用已渗入到各个领域但是在实际应用中,神经网络也暴露出一些自身固有的缺陷:容易陷入局部极小,收敛速度慢等量子遗传算法是基于量子计算原理的一种遗传算法,将量子计算与遗传算法相结合的一种优化方法,具有种群规模小,收敛速度快,全局寻优能力强的特点因此可 以用于优化神经 网络本文利用量 子遗传算法的独特属性来弥补神经 网络存在的一些固有缺陷,提出了一种新的混合训练算法一QCA一Bp算法,达到优化网络的目的。

图1三层BP网络结构图2BP神经网络模型Bp神经网络是目前应用最为广泛的一种神经 网络模型,它是基于BP算法的多层前馈网络,包括输入层、输出层和一层或多层隐含层网络的输入层对应于学习样本的各个属性,输入层的数据经加权处理后传递给第一个隐含层的各个处理单元第一个隐含层处理后输出的数据输入到第二个隐含层,如此传递下去,直至最后一个隐含层最后一个隐含层的输出经加权处理后作为输出层的输入,输出层输出最终结果三层Bp网络的结构如图1所示,包含输入层、输出 层和一个隐含层由于BP网络是基于梯度下降法的,因此存在一些不足之处:1 )Bp神经网路采用的算法是基于误差函数梯度下降的方向,该算法实质上是单点搜索算法,不具有全局搜索能力;2 )BP神经网络学习训练开始时网络的结构参数是随机给定的,因此结果存在一定的随机性;3 )训练易陷入瘫痪,网络的收敛速度较慢3量子遗传算法(QGA )遗传算法I,·2](Ge neticAlgorithm,GA )是模仿生物进化和遗传的过程来进行优化的一种搜索方法其基本过程是首先对问题的备选解进行编码,形成基因编码串,然后对该串进行选择、交叉、变异等操作,不断产生新的个体,并进行选优,从而最终获得最优解。

量子遗传算法本质上是一种遗传算法,因而传统遗传算法所能应用的领域,量子遗传算法也适用,由于引入量子计算,其效果 明显优于传统进化算法量子遗传算法的基本步骤1 3 ,4 1:U取种群规模为N的初始种群Q( t )一般情况,¹基金项目:江西省自然科学基金项目( 051 1072 )收稿时间:2008一10一2 1Re S创灯ch叨dD ev e l叩me n t研究开发53计 算机系 统 应用2009年 第5期种群中全部染色体的所有基因(可,对)都被初始化为(脆,瓜) ;2 )对初始种群每个个体实施一次测量,得一个状态P ( t )测量(或选择状态)时,是根据量子比特几率幅 (}“}’或},},)来选择相应基因位上的“或,具体方法为:随机产生一个【0,1 ] 数,若它大于等于几率幅(或)的值,则测量结果取1;否则,取0 (当然,也可反之)然后,对这一组解进行适应度评估,记录下最佳适应度个体座位下一步演化的目标;3 )对各个状态计算适应度;4 )记录最佳个体及其适应度值5)while(不满足终止条件)dobegint=t+1;对种群Q (t ) 中每个个体实施一次测量,得一组状态 P ( t ) ;对每个状态计算适应度;依据一定的调整策略,利用量子旋转门操作和量子非门对种群个体进行更新,到子种群Q( t十1 );记录下最佳个体及其适应度。

End码时更利于QGA算法与Bp算法的结合关键点:将BP网络的权值和闺值按一定的顺序级联起来,形成一个实数数组,作为遗传算法的一个染色体遗传操作在这样的染色体群中进行2 )适应度函数的选择衡量Bp网络的性能的主要指标是网络的输出值与期望的输出值之间的误差平方和该误差平方和小则表示该网络性能好一合客沁犷,e( i,一‘,一少,〔 ,,‘为”网络的输出值,y,( i )为期望输出值,为f =卫L,其中J+l 习样本数,沁)为e ( i )为两者的差4QGA和BP算法的结合4.1基本思想量子遗传算法是一种基于 量子计算原理的概率优化方法它以量子计算的一些概念和理论为基础,用量子位编码来表示染色体,用量子门作用和量子 门更新来完成进化搜索,具有种群规模小而不影响算法性能、同时兼有“勘探”和‘.开采”的能力、收敛速度快和全局优化能力强的特点而Bp算法对局部搜索比较有效、因此为了使算法能很快地找到满意解,可 以先用量子遗传算法对初始权值进行优化,在解空间中定位出较好的搜索空间,然后利用BP算法在这些小的解空间中搜索出最优解4.2实现方法和步骤1 )量子位编码与遗传算法中染色体采用确定值(如立进制数)表示不 同,量子遗传算法中,染色体量 子位对染色体进行编码或者说用随机概率方式表示。

本文学习Bp网络时,对样本进行归一化处理,所以在对初始种群进行编3 )量子旋转门调整策略在量子遗传算法中,由于染色体处于叠加或纠缠状态,因此采用量子旋转门分别作用于各叠加和纠缠状态的方式实现更新种群的操作从而子代个体的产生不是由父代种群决定,而是由父代的最优个体及状态的概率幅决定遗传操作主要将量子旋转门作用于叠加状态和纠缠状态的基态,使其相互干涉,发生状态改变,从而更新各基态的概率幅因而量子旋转门是量子遗传算法的关键,直接影响到量子遗传算法的性能调整策略见15 ].关键点:将个体《的适应度f( x i)与当前最优个体b的适应度 f ( b )进行比较,若f (x i)>f ( b ),则调整《的量子位使概率幅朝着有利于x i出现的方向进化;反之,如果f( x i )

1 )参数设置量子遗传算法参数设置:种群大小设置为30,染色体长度设置为9,最大进化代数设置为100,灾变代数设置为12,量子交叉概率设置为0.15,量子变异概率设置为0 .0 5,适应度函数中的调节因子入设 置为0.9 975,调整策略采用表1中的量子旋转门调整策略 2 )实验结果将上述两种算法分别进行40次实验从下面图中,可 以看到 QGA一BP学习算法相比BP算法无论在收敛速度上,还是 在迭代相同次数所能达到的精度 上,都取得了很好的效果实验也说 明了QGA一Bp算法能以较快的速度减小了搜索空间范围,而且不易陷入局部极小点;而即算法则具有局部搜索效率高的特点,将两者结合从而得到比现有的学习算法更好的学习效果6结束语由上述实验可 以看出,基于量子遗传算法改进的BP算法是有效可行的,与传统遗传算法改进BP算法相比,该算法可以克服遗传算法过早收敛和陷入局部最优的问题,并且当神经网络规模比较大时可 以以较快的速度收敛到全局最优解通过以上研究可以看出,将QGA与Bp算法有机的融合,达到全局寻优与快速搜索的目的,互为补偿,使算法具有一定的实用性今考舀吃浦 犬1高宏宾,焦东升,彭商派.基于遗传算法的人工神经网络.计算机工程与设计,20 06,2 7( 2 ):316一31 8.2潘昊,王晓勇,陈琼,黄少妻.基于遗传算法的BP神经网络技术 的应用.计算机应用,20 05, 25(12 ):2 77 7一2779.3A bdessle mLaye b,D j别r nel.E刁dln eSaido uni.Q ua nt umGen et ieA l gor it hmf o rBin aryDe eisio nD iag ramOrde r ingProble m.I nter na t io na lJ ou r nalof ComPut erSeie n eeand NetworkSe e心t y,20 07,7(9):130一135.4Xio ng Y,Che nl开1.AQua nI U m价net ieA lgor it hnzt oSolveCombi nator ialO Ptim iza t io nP ro ble m.A ct aE le et r onieaSiniea,20 ( )4,32(11):1855一1858.5王全新.量子进化算法改进及应用研究[硕士学位论文].长春:吉林大学,20 07 .Re S已廿ch朗d决v el叩m时研究开发5 5。