您所在位置：网站首页 > 办公文档 > PPT模板库 > PPT素材/模板我的人工神经网络-3 多级神经网络结构课件

我的人工神经网络-3 多级神经网络结构课件

30页

卖家[上传人]：我***

文档编号：141727580

上传时间：2020-08-11

文档格式：PPT

文档大小：310.50KB

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

20 金贝

/ 30 举报版权申诉马上下载

文本预览

下载提示

常见问题

1、上次课内容回顾,生物神经网六个基本特征神经元及其联接、信号传递、学习、刺激与抑制、累积效果、 “阈值”。人工神经元的基本构成,上次课内容回顾,激活函数与M-P模型线性函数、非线性斜面函数、阈值函数 S形函数 M-P模型,第3章多层人工神经网络结构,主要内容,人工神经网络的拓扑特性单级网简单单级网单级横向反馈网多级网,介绍,求异或（XOR）操作是计算机中常用到的一种计算：0 XOR 0 = 00 XOR 1 = 11 XOR 0 = 11 XOR 1 = 0可以发现用原来的方法学习后的结果不能让我们满意，原因是单层神经网络学习能力有限，需要使用更加复杂的网络来学习。,该多层神经网络在单层神经网络的基础上增加了一层“隐藏层”（Hidden）,人工神经网络的拓扑特性,连接的拓扑表示,联接模式,用正号（“+”，可省略）表示传送来的信号起刺激作用，它用于增加神经元的活跃度；用负号（“-”）表示传送来的信号起抑制作用，它用于降低神经元的活跃度。层次（又称为“级”）的划分，导致了神经元之间的三种不同的互连模式：,联接模式,1、层（级）内联接层内联接又叫做区域内（Intra-f

2、ield）联接或侧联接（Lateral）。用来加强和完成层内神经元之间的竞争 2、循环联接反馈信号。,联接模式,3、层（级）间联接层间（Inter-field）联接指不同层中的神经元之间的联接。这种联接用来实现层间的信号传递前馈信号反馈信号,网络的分层结构,单级网简单单级网单级横向反馈网,简单单级网,简单单级网,W=（wij）输出层的第j个神经元的网络输入记为netj： netj=x1w1j+x2w2j+xnwnj 其中, 1 j m。取 NET=（net1，net2，netm） NET=XW O=F（NET）,单级横向反馈网,单级横向反馈网,V=（vij） NET=XW+OV O=F（NET）时间参数神经元的状态在主时钟的控制下同步变化考虑X总加在网上的情况 NET（t+1）=X（t）W+O（t）V O(t+1)=F(NET(t+1) O（0）=0 考虑仅在t=0时加X的情况。稳定性判定,多级网,层次划分信号只被允许从较低层流向较高层。层号确定层的高低：层号较小者，层次较低，层号较大者，层次较高。输入层：被记作第0层。该层负责接收来自网络外部的信息,第j

3、层：第j-1层的直接后继层（j0），它直接接受第j-1层的输出。输出层：它是网络的最后一层，具有该网络的最大层号，负责输出网络的计算结果。隐藏层：除输入层和输出层以外的其它各层叫隐藏层。隐藏层不直接接受外界的信号，也不直接向外界发送信号,约定 : 输出层的层号为该网络的层数：n层网络，或n级网络。第j-1层到第j层的联接矩阵为第j层联接矩阵，输出层对应的矩阵叫输出层联接矩阵。今后，在需要的时候，一般我们用W（j）表示第j层矩阵。,多级网h层网络,多级网,非线性激活函数 F(X)=kX+C F3(F2(F1(XW(1)W(2)W(3),循环网,网络结构与电子线路对应：放大器神经元电阻、电容神经元的时间常数电导权系数,循环网,如果将输出信号反馈到输入端,就可构成一个多层的循环网络。输入的原始信号被逐步地“加强”、被“修复”。大脑的短期记忆特征看到的东西不是一下子就从脑海里消失的。稳定：反馈信号会引起网络输出的不断变化。我们希望这种变化逐渐减小，并且最后能消失。当变化最后消失时，网络达到了平衡状态。如果这种变化不能消失，则称该网络是不稳定的。,初始例子的实现,基本的原理

4、就是用实际网络计算出来的值和期望的值进行比较，然后来调整自己的权值。,/ / 根据期望的输出和实际的输出来调整权值 / / 期望的输出 private void train_network(double outputs) /get momentum values (delta values from last pass) double delta_hidden = new double_nn.NumberOfHidden + 1; double delta_outputs = new double_nn.NumberOfOutputs;,/ Get the delta value for the output layer for (int i = 0; i _nn.NumberOfOutputs; i+) delta_outputsi = _nn.Outputsi * (1.0 - _nn.Outputsi) * (outputsi - _nn.Outputsi); ,/ Get the delta value for the hidden layer for (int i = 0; i _nn.NumberOfHidden + 1; i+) double error = 0.0; for (int j = 0; j _nn.NumberOfOutputs; j+) error += _nn.HiddenToOutputWeightsi, j * delta_outputsj; delta_hiddeni = _nn.Hiddeni * (1.0 - _nn.Hiddeni) * error; ,/ Now update the weights between hidden ,/ Now update the weights between input ,

《我的人工神经网络-3 多级神经网络结构课件》由会员我***分享，可在线阅读，更多相关《我的人工神经网络-3 多级神经网络结构课件》请在金锄头文库上搜索。

点击阅读更多内容

TA的资源