BP网络解决XOR分类问题.docx

本文格式为Word版，下载可任意编辑BP网络解决XOR分类问题 《智能计算》课程设计报告 BP网络解决XOR分类问题 姓 名： 班 级： 学 号： 指导老师： 完成时间：2022/12/26 设计目的： 本测验课程是与《智能优化算法及其应用》理论课程配套的实践性课程，用测验的方法扶助学生更好地熟谙和掌管智能优化算法的根本原理和方法；通过综合应用所学学识，实现一些智能优化算法的经典方法，以及智能优化算法的根本应用；同时提高学生编写测验报告、总坚固验结果的才能；使学生对智能优化算法的相关理论和方法有更深刻的熟悉 完成的主要任务： BP网络是目前前馈式神经网络中应用最广泛的网络之一，实现BP算法训练神经网络完成XOR的分类问题 设计要求： （1） 能够设置网络的输入节点数、隐节点数、网络层数、学习常数等各 项参数； （2） 能够输入训练样本； （3） 实现BP算法的训练过程； （4） 实现训练过程的动态演示； （5） 训练完成后可输入测试数据举行测试。

解决的主要问题： 根据感知器的的相关理论易知感知器擅长解决线性可分问题，而不能解决XOR问题，所以引进了BP网络，并通过相关学识来解决分类问题 反向传播网络（Back-Propagation Network,简称BP网络）是将W-H学习规矩一般化，对非线性可微分函数举行权值训练的多层网络BP网络主要用于函数迫近，模式识别，分类，数据压缩在人工神经网络的实际应用中，80%~90%的人工神经网络模型是采用BP网络或它的变化形式，也是前行网络的核心片面，表达了人工神经网络最精华的片面 1 一个具有r个输入和一个隐含层的神经网络模型布局如下图 下图所示是S型激活函数的图型，可以看到f ()是一个连续可微的函数，一阶导数存在对于多层网络，这种激活函数所划分的区域不再是线性划分，而是有一个非线性的超平面组成的区域它还可以严格利用梯度算法举行推算，他的权值修正的解析式特别明确，其算法被称为误差反向传播法，简称SP算法 BP算法是有两片面组成：信息的正向传递与误差的反向传播在正向传播过程中，输入信息从输入经隐含层逐层计算传向输出层，每一层神经元的状态值影响下一层神经元的状态。

假设在输出层没有得到期望的输出，那么计算输出层的误差变化值，然后转向反向传播，通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达成期望的目标 设计的根本概念和原理： XOR问题就是如何用神经网络实现异或规律关系，即Y=A XOR B对于这个问题用单个神经元模型无法解决，由于该问题是线性不成分的，对于两维输入空间，神经元的作用可以理解为对输入空间举行一条直线划分 多层神经网络可以解决这个问题，由于多层网络引入了中间隐含层，每个隐含神经元可以按不同的方法来划分输入空间抽取输入空间中包含的某些特征，从 2 而形成更为繁杂的分类区域理论上已经证明三层神经网络足以解决任意繁杂的分类问题 XOR问题的样本只有4个样本，它们的输入分别是{（0，0），（0，1），（1，0），（1，1）}，对应的输出是{0，1，1，0}输入是2维向量，故输入层用2个神经元，由于输入层神经元的输入与输出一致，其单元不需要举行数学处理，可直接将输入神经元的输入接到隐含层神经元的输入网络输出是1维向量，故输出层用1个神经元对于这个简朴问题，隐含层神经元的个数确定为2个。

经过简朴的训练后即可得到网络布局 总体设计： 在举行BP网络设计前，一般应从网络的层数、每层中的神经元个数、初始值以及学习方法等方面来举行考虑 1、网络的层数 理论上早已证明：具有偏差和至少一个S型隐含层加上一个线性输出层的 网络，能够迫近任何有理函数增加层数主要可以更进一步的降低误差，提高精度，但同时也使网络繁杂化，从而增加了网络权值的训练时间而误差精度的提高实际上也可以通过增加隐含层中的神经元数目来获得，其训练效果也比增加层数更轻易查看和调整，所以一般处境下，应优先考虑增加隐含层中的神经元数 2、隐含层的神经元数网络的层数 网络训练精度的提高，可以通过采用一个隐含层，而增加其神经元个数的方 法来获得，这在布局实现上要比增加更多的隐含层要简朴得多那么到底选取多少个隐含节点才适合？这在理论上并没有一个明确的规定在概括设计时，对比实际的做法是通过对不同神经元数举行训练对比比较，然后适当的加上一个余量 3、初始权值的选取 由于系统是非线性的，初始值对于学习是否达成局部最小、是否能够收敛 以及训练时间的长短关系很大假设初始值太大，使得加权后的输入落在激活函数的饱和区，从而导致其导数分外小，而在加权值修正公式中，调理过程几乎停顿下来。

所以一般总是梦想经过初始加权后的每个神经元的输出值都接近于零，这样可以保证每个神经元的权值都能够在他们的S型激活函数变化最大之处举行调理所以一般取初始权值在（-1,1）之间的随机数另外，为了防止上述现 3 象的发生，已有学者在分析了两层网络是如何对一个函数举行训练以后，提出一种选定初始权值的策略：选择权值的量级为S1开T次方，其中S1为第一层神经元数目，利用这种方法可以在较少的训练次数下得到合意的训练结果 4、学习速率 学习速率抉择每一次循环训练中所产生的权值变化量大的学习速率可能导致系统的不稳定，但小的学习速率将会导致训练较长，收敛速度较慢，不过能保证网络的误差值不跳出误差外观的低谷而最终趋于最小误差值所以在一般处境下，倾向于选取较小的学习速率以保证系统的稳定性，学习速率选取范围在0.01~0.8之间对于一个概括的网络都存在一个适合的学习速率，但对于较繁杂的网络，在误差曲面的不同部位可能需要不同的学习速率为了裁减探索学习速率的训练次数以及训练时间，对比适合的方法是采用变化的自适应学习速率，是网络的训练在不同的阶段自动设置不同学习速率的大小 5、期望误差的选取 在设计网络的训练过程中，期望误差值也应当通过比较训练后确定一个适合的值，这个所谓的“适合”，是相对于所需要的隐含层的节点数来确定。

由于较小的期望误差值是要靠增加隐含层的节点，以及训练时间来完成的一般处境下，作为比较，可以同时对两个不同期望误差值的网络举行训练，结果通过综合因素的考虑来确定采用其中一个网络 运行结果： 1、开头界面： 4 — 7 —。