第3章 神经网络故障诊断与预测(2)
44页1、(1) 产生数据样本集 (2) 确定网络的类型和结构 (3) 训练和测试,3.2.3 神经网络的训练,(1) 产生数据样本集,这里包括原始数据的收集、数据分析、变量选择以 及数据的预处理。 首先要在大量的原始测量数据中确定出最主要的输 入模式。这就需要对原始数据进行统计分析,检验它们 之间的相关性。找出其中最主要的量作为输入。,在确定了最重要的输入量后,需进行尺度变换和预 处理。尺度变换常常将它们变换到 -1, 1或0, 1 的范围。 在进行尺度变换前必须先检查是否存在异常点(或称野 点),这些点必须剔除。 对于一个复杂问题应该选择多少数据,这也是一个 很关键的问题。系统的输入输出关系就包含在这些数据 样本中。所以一般说来,取的数据越多,学习和训练的 结果便越能正确反映输入输出关系。,(1) 产生数据样本集,但是选太多的数据将增加收集、分析数据以及网络训练的所付的代价。选太少的数据则可能得不到正确的结果。 事实上数据的多少取决于许多因素,如网络的大小、网络测试的需要以及输入输出的分布等。其中网络大小最关键。通常较大的网络需要较多的训练数据。 一个经验规则是:训练模式应是连接权总数的5至
2、10倍。,(1) 产生数据样本集,在神经网络训练完成后,需要有另外的测试数据来对网络加以检验,测试数据应是独立的数据集合。 最简单的方法是:将收集到的可用数据随机地分成两部分,譬如说其中三分之二用于网络的训练,另外三分之一用于将来的测试,随机选取的目的是为了尽量减小这两部分数据的相关性。,影响数据大小的另一个因素是输入模式和输出结果的分布,对数据预先加以分类可以减少所需的数据量。相反,数据稀薄不匀甚至互相覆盖则势必要增加数据量。,(1) 产生数据样本集,(2) 确定网络的类型和结构,在训练神经网络之前,首先要确定所选的网络类型。 若主要用于模式分类,尤其是线性可分的情况,则可 采用较为简单的感知器网络; 若主要用于函数估计,则可应用BP网络。 实际上,神经网络的类型很多,需根据问题的性质和 任务的要求来合适地选择网络类型。一般是从已有的网络 类型中选用一种比较简单而又能满足要求的网络。,在网络的类型确定后,剩下的问题是选择网络的结构和参数。 以BP网络为例,需选择网络的层数、每层的节点数、初始权值、阈值、学习算法、节点变换函数及参数、学习率及动量项因子等参数。这里有些项的选择有一些指导
3、原则,但更多的是靠经验和试凑。,(2) 确定网络的类型和结构,具体选择有如下两种方法: a. 先设置较少节点,对网络进行训练,并测试网络的逼近误差,然后逐渐增加节点数,直到测试的误差不再有明显减小为止。,若确定了输入和输出变量后,网络输入层和输出层的节点个数也便随之确定了。对于隐层的层数可首先考虑只选择一个隐层。剩下的问题是如何选择隐层的节点数。其选择原则是:在能正确反映输入输出关系的基础上,尽量选取较少的隐层节点数,而使网络尽量简单。,(2) 确定网络的类型和结构,利用该梯度可求得相应的学习算法,利用该学习算法,在训练过程中只有那些确实必要的连接权才予以保留,而那些不很必要的连接将逐渐衰减为零。最后可去掉那些影响不大的连接权和相应的节点,从而得到一个适当规模的网络结构。,若采用上述任一方法得到的隐层节点数太多。这时可考虑采用二个隐层。为达到相同的映射关系,采用二个隐层的节点总数常常可比只用一个隐层时少。,(2) 确定网络的类型和结构,(3) 训练和测试,在训练过程中对训练样本数据需要反复地使用。 对所有样本数据正向运行一次,并反传修改连接权一次 称为一次训练(或一次学习),这样的训练
4、需要反复地进 行下去直至获得合适的映射结果。通常训练一个网络需 要成百上千次。 应注意,并非训练的次数越多越好。,训练网络的目的在于找出蕴含在样本数据中的输入和输出之间的本质联系,从而对于未经训练的输入也能给出合适的输出,即具备泛化功能。 由于所收集的数据都是包含噪声的,训练的次数过多,网络将包含噪声的数据都记录了下来,但是对于新的输入数据却不能给出合适的输出,也即并不具备很好的泛化功能。,(3) 训练和测试,从如下误差曲线可以看出,在用测试数据检验时,均方误差开始逐渐减小,当训练次数再增加时,测试检验误差反而增加。误差曲线上极小点所对应的即为恰当的训练次数,若再训练即为“过度训练”了。,(3) 训练和测试,BP网络在函数逼近中的应用,一、 问题的提出,要求设计一个BP网络,逼近以下指数衰减函数:,隐层采用S型正切函数(tansig),输出层采用线性型(purelin)。,程序见hs.m,学习速率一般选取为0.001-0.8之间,一般倾向于较小的学习速率,本例选0.1; BP网络训练时间较长,易陷入拒不饱和现象,可通过附加动量参数进行改进,动量因子一般选取为0.95左右,通过Matla
《第3章 神经网络故障诊断与预测(2)》由会员小**分享,可在线阅读,更多相关《第3章 神经网络故障诊断与预测(2)》请在金锄头文库上搜索。
2020年高考真题——理科综合(全国卷Ⅲ)+Word版含答案
2021年绝味鸭脖策划书
2021年熟食店创业方案
2021年熟食店开店策划
2021年卤菜店创业计划书
2021年周黑鸭网络营销策划方案
东大21年1月考试《现代设计方法》考核作业
谈我国行政管理效率的现状及其改观对策(论文)
单证员考试-备考辅导-复习资料:无贸易背景信用证案分析.docx
土木工程毕业生答辩自述.docx
建筑学毕业后工作状态真实写照.doc
C#代码规范(湖南大学).doc
xx区食药监局2019年工作总结及2020年工作计划
2019年中医院药物维持治疗门诊工人先锋号先进事迹
2019年度xx乡镇林长制工作总结
2019年性艾科工作计划书
2019年人才服务局全国扶贫日活动开展情况总结
关于组工信息选题的几点思考
摘了穷帽子 有了新模样
2019年某集团公司基层党支部书记培训班心得体会
2024-01-31 15页
2024-01-31 21页
2024-01-31 37页
2024-01-31 30页
2024-01-31 22页
2024-01-31 48页
2024-01-31 32页
2024-01-31 40页
2024-01-31 31页
2024-01-31 20页