EM算法及其应用实例
31页1、,目录(content),目录(content),最大期望算法简介(Expectation Maximization) (1/7),定义:最大期望算法(Expectation Maximization Algorithm,又译期望最大化算法),是一种迭代算法,用于含有隐变量(hidden variable)的概率参数模型的最大似然估计或极大后验概率估计。在统计计算中,最大期望(EM)算法是在概率(probabilistic)模型中寻找参数最大似然估计或者最大后验估计的算法,其中概率模型依赖于无法观测的隐藏变量(Latent Variable)。最大期望经常用在机器学习和计算机视觉的数据聚类(Data Clustering)领域。,最大期望算法简介(Expectation Maximization) (2/7),问题提出假设我抽到了200个人的身高数据,现在每一个数据我都不知道那个是男的那个是女的,也就是说我想分别估计男女身高平均值(mean)、方差(variance),有点困难。,EM算法推导过程 (3/7),假定:有数据= 1 , 2 , ,需要估计参数= 1 , 2 , 采用最大似
2、然法估计(Maximum Likelihood Estimation, MLE),用L()来表示最大似然函数,则必有L = =1 ( |) 如果数据集(Data Set)X是完全数据(Complete Data),即信息没有缺失,那么估计可以直接求偏导来计算(Partial Derivative),正如上面提到的一个例子,如果我们收集到的200个身高数据,并且知道那个是男的那个是女的,那么计算他们的平均身高和方差是一件很简单的事情。问题出来了,如果数据集X是非完全数据(Incomplete Data),即缺失信息,那么传统的似然估计法估计参数将变得不可行。如上面的例子提到,收集的数据不知道那个数据是来自男生样本(Sample),还是女生样本。,EM算法推导过程 (4/7),现在假定每一个数据点(Data Point)均含有隐藏信息,我们把这种隐藏信息称之为隐变量或者潜变量(Latent Variable),用符号Z表示,其集合= 1 , 2 , 那么似然函数就可以写成L = =1 ( ,|) 用l()表示对似然函数对数化: l = =1 log( ( ,|) ) ;用条件概率继续将其分
《EM算法及其应用实例》由会员油条分享,可在线阅读,更多相关《EM算法及其应用实例》请在金锄头文库上搜索。
最新学校新冠肺炎疫情突发事件应急处置办法和流程
最新疫情防控期间学校用餐与食堂管理规定和师生一日流程图
最新Xx省xx区返学师生员工健康登记表
诊所简介
高中英语-第二单元-《the-United-Kingdom》课件-新必修5
新版新目标英语七年级下unit4--Don't-eat-in-class课件
新版PEP六年级英语unit6-how-do-you-feel-A-Let's-talk
安徽专版2018秋八年级英语上册Unit5Doyouwanttowatchagameshow第6课时习题课件新人教目标版
酸的和甜的教学课件.doc
Lesson-1-Where-do-we-go-from-here概要
Docker技术与实践
七年级英语下册-Unit-9-What-does-he-look-like(第3课时)(Grammar-Focus-3d)同步语法精讲精练课件-(新版
《I'm-going-to-do-the-high-jump》PPT课件3
高二英语外研版-必修5-Module-2-A-Job-Worth-Doing-Reading课件
英语片段教学-I-can-do-it
Adobe公司简介
安徽专版2018秋八年级英语上册Unit5Doyouwanttowatchagameshow第2课时习题课件新人教目标版
第二单元全课件Unit2-What-time-do-you-go-to-school-全课件
第18课-Windows的磁盘管理与安全
第12章--Windows-Server-2008路由及远程访问
2024-05-02 56页
2024-05-02 61页
2024-04-08 20页
2024-04-06 36页
2024-02-09 36页
2024-01-31 31页
2024-01-28 18页
2024-01-28 31页
2024-01-28 24页
2024-01-28 27页