深度学习--深度信念网络(Deep-Belief-Network)
9页1、深度学习-深度信念网络(Deep Belief Network)概述深度信念网络(Deep Belief Network, DBN)由 Geoffrey Hinton 在2006年提出。它是一种生成模型,通过训练其神经元间的权重,我们可以让整个神经网络按照最大概率来生成训练数据。我们不仅可以使用DBN识别特征、分类数据,还可以用它来生成数据。下面的图片展示的是用DBN识别手写数字:HnMESBBKSiSMH l DEC 匚盘石匚吕PEHODETAILED ViEW图1用深度信念网络识别手写数字。图中右下角是待识别数字的黑白位图,它 的上方有三层隐性神经元。每一个黑色矩形代表一层神经元,白点代表处于开启 状态的神经元,黑色代表处于关闭状态的神经元。注意顶层神经元的左下方即使 别结果,与画面左上角的对应表比对,得知这个DBN正确地识别了该数字。F面是展示了一个学习了大量英文维基百科文章的DBN所生成的自然语言段落: In 1974 Northern Denver had been overshadowed by CNL, and several Irish intelligence age
2、ncies in the Mediterranean region. However, on the Victoria, Kings Hebrew stated that Charles decided to escape during analliance. The mansion house was completed in 1882, the second in its bridge are omitted, while closing is the proton reticulum composed below it aims, such that it is the blurring of appearing on any well-paid type of box printer.DBN由多层神经元构成,这些神经元又分为显性神经元和隐性神经元(以 下简称显元和隐元)。显元用于接受输入,隐元用于提取特征。因此隐元也有个 别名,叫特征检测器(feature detectors)最顶上的两层间的连接是无向的, 组成联合内存(associative memory)o较低的其他层之间
3、有连接上下的有向 连接。最底层代表了数据向量(data vectors),每一个神经元代表数据向量的 一维。DBN 的组成元件是受限玻尔兹曼机 (Restricted BoltzmannMachines, RBM)O训练DBN的过程是一层一层地进行的。在每一层中,用 数据向量来推断隐层,再把这一隐层当作下一层 (高一层) 的数据向量。 受限玻尔兹曼机如前所述, RBM 是 DBN 的组成元件。事实上,每一个 RBM 都可以单独 用作聚类器。RBM只有两层神经元,一层叫做显层(visible layer),由显兀(visible units)组成,用于输入训练数据。另一层叫做隐层(Hidden layer),相应地,由隐兀(hidden units) 组成,用作特征检测器(feature detectors)ohidden unitsvisible units图2受限玻尔兹曼机的结构。图中的较上一层神经元组成隐层,较下的神经元 组成显元。每一层都可以用一个向量来表示,每一维表示每个神经元。注意这两 层间的对称(双向)连接。神经元之间的条件独立性应注意到,显层和隐层内部的神经元都没有互连,
《深度学习--深度信念网络(Deep-Belief-Network)》由会员re****.1分享,可在线阅读,更多相关《深度学习--深度信念网络(Deep-Belief-Network)》请在金锄头文库上搜索。
污水处理之隔油池计算方法及图集
零售药店经营质量管理案例分析
加快现代教育技术建设
消化内科诊疗常规
人教版九年级上物理月考试题
淮安市淮安区流均镇二桥等村省以上投资土地整治项目工程监理规划
珍爱生命演讲稿0【整合汇编】
某科技公司综合事故应急救援预案
嘉兴AI影像辅助诊断产品项目商业计划书范文
采购工作总结100篇
工程招投标中招标代理机构的作用
团支部2022年工作总结范文2
重点岗位廉政风险防控机制建设实施方案
证券公司增资扩股和股权变更指引的分析
关于青春梦想活动主持词五篇
2021窗边的小豆豆读书笔记摘抄
中国银联PBOC卡个人化数据验证工具_操作手册
家用电力器具项目项目建议书写作范本
【施工方案】硅芯管施工方案(DOC 11页)
中学生社会实践总结(2篇).doc
2023-07-20 8页
2024-02-16 4页
2024-01-10 5页
2022-10-13 8页
2023-11-14 3页
2023-03-17 10页
2022-10-01 11页
2022-10-23 7页
2022-08-25 11页
2024-01-21 2页