贝叶斯定理在定位与跟踪上应用参考.docx

2.1 贝叶斯定理贝叶斯定理是关于随机事件 A 和 B 的条件概率的一则定理贝叶斯定理公式：P(A|B)=P(B|A)*P(A)/P(B) (2.1.1)上面的公式也可变形为：P(B|A)=P(A|B)*P(B)/P(A) (2.1.2)这里，P(A|B)是在B发生的情况下A发生的可能性在贝叶斯定理中，每个名词定义如下：P(A)是A的先验概率之所以称为"先验"是因为它不考虑任何B方面的因 素P(A|B)是已知B发生后A的条件概率，也由于得自B的取值而被称作A的后 验概率P(B|A)是已知A发生后B的条件概率，也由于得自A的取值而被称作B的后 验概率P(B)是B的先验概率2.2 贝叶斯估计2.2.1 贝叶斯估计的基本原理A. 贝叶斯估计的4个步骤假设将待估计的参数看作符合某种先验概率分布的随机变量估计方式通过观察样本，将先验概率密度通过贝叶斯规则转化为后验概率密度B. 概率密度估计的两种基本方法方法 1： 参数估计(parame trie met hods)根据对问题的一般性的认识，假设随机变量服从某种分布，分布函数的参数通过训练数据来估计如：ML估计，Bayesian估计方法 2： 非参数估计(n onparame trie met hods)：不用模型，而只利用训练数据本身对概率密度做估计。

C. 贝叶斯估计应用及其框图贝叶斯估计应用在很多领域，在概率、数理统计学中以贝叶斯姓氏命名的有 贝叶斯公式、贝叶斯风险、贝叶斯决策函数、贝叶斯决策规则、贝叶斯估计量、贝 叶斯方法、贝叶斯统计等等.贝叶斯统计学派把任意一个未知参数都看成随机变量，应用一个概率分布去 描述它的未知状况，该分布称为先验分布图2.1贝叶斯估计应用框图D. 贝叶斯估计的公式概率论中贝叶斯公式为]心|打_ PQ ] X)血对 _担7丨对讽对jp(z\x)pix)dx F ⑵(2.1.3) '这里，p(X)目标状态X的先验概率分布；p (z|x)给定X情况下测量值z 的似然函数；p (x|z)给定测量值z情况下X的后验概率分布；p(z)是边缘分布，也叫规 则化常量由于式(2.1.3)中的分母对所有测量值z都是一个常数，做如下逼近：p(x I Z)工 p(z I x)p(x)(2.1.4)根据决策理论，由于状态不能直接观察,只能观察另外一个与X (下面也用0 表示)有联系的随机变量Z来获得后验信息Z与X的联系愈紧密愈好，然后利用 对Z的观察结果修正对后验概率的估计由于观察Z还受到其他随机因素的影响， 因此对于给定的X是一随机变量，似然函数P ( Z |X )即为Z的条件密度函数一 —对预测因子Z的联合分布。

对于计算后验概率，似然函数是最为关键的为此，首先需要确定Z的函数形 式为了使X能够观察，最合适的模型是多元线性模型当然，预测函数并不是惟 一的当然，可以利用过去的历史数据，用线性回归或核估计的方法估计出Z的概 率分布函数，并构建似然函数P(Z |X )当然，可以利用过去的历史数据，用线性回归或核估计的方法估 计出X的概率分布函数，并构建似然函数P(Z |X )P(S|X)-N(f(7)5 巧(2.1.4)因为Z的值不满足概率的形式，但其大小与概率具有内在联系，Z值越小，发 生的概率越大，两者之间可以证明满足线性关系因此，似然函数均值为f (X), 这里f (X ) = aX + k,并且a和k的值可以经过回归得到因此，可推出后验概 率P (x|z)同样服从正态分布，即p (x|z)〜N (口1,o12)(2.1.5)这里I s-kt=4-£e!

在这里，3种方法的结果一样观测到样本Z 1，Z 2，?，Z n后，若2、T2、a、k已知,(2.1.8)为完全分统计量,此时,P(3|X)™N(jX+k a3/!!)P(3|X)™N(jX+k (^/n)(2.1.9)由式（2.1.5）可以推出4 T^n . O*£T亠 i-X = i-a-hii3n2 出 + 瓦石亏G2仝—尸壬亠(2.1.10)E. 两种贝叶斯估计其一是最大似然（ML）估计:根据每一类的训练样本估计每一类的类条件概率密度丫―——卩帥詢(2.1.11)其二是 Bayesian 估计：同样根据每一类的训练样本估计每一类的类条件概率密度但不再把参数9看成是一个未知的确定变量，而是看成未知的随机变量通过对第i类样本的观察，使概率密度分布PM）转化为后验概率P（9 |Xi）P（9 |Xi） 再求贝叶斯估计ML估计与Bayesian估计比较如下：ML估计特点：1） 参数为未知确定变量；2） 没有利用参数先验信息；3） 估计的概率模型与假设；4） 可理解性好；5） 计算简单Bayesian估计特点：1） 参数为未知随机变量；2） 利用参数的先验信息；3） 估计的概率模型相比于假设模型会发生变化;4） 可理解性差；5） 计算复杂。

ML估计与贝叶斯估计有什么关系如下:ML估计通常比贝叶斯估计简单;ML估计给出参数的值，而贝叶斯估计给出所有可能的参数值的分布；当可用数据很多以至于减轻了先验知识的作用时，贝叶斯估计可以退化为ML估计F .求贝叶斯估计的方法（平方误差损失下）贝叶斯估计的方法分为如下四个步骤1'确定旧的无腔分布川叭'2i求樗本集的莊會分布即一口 E 旬 1=1O求&的后骑槪率井布I曲I軌）（劲亦■ &.4「求円的贝町肝怙计早x）do在高斯分布的假设下（用Word重新写），上述贝叶斯估计的方法简化为:Gaussian情况i仅鑫数6 =理未知给定样本集F ,已知随机变量七碰尬9旳值未却而方差已知均值变呈的先验分布求出的后验概率灿）MH”）巩迥jp加戸加a如贝叶斯估计应用举例:1）对定位应用，定位或者跟踪的目标是从一系列的测量值中对目标做出一个 较好的估计2）财务困境概率贝叶斯估计通过财务困境概率估计模型建立一套企业财务风险预测系统,具有降低企业经 营风险、投资风险以及防范金融危机的重要意义利用贝叶斯分析方法建立的概率估 计模型,可以较好地解决这个问题,提高预测的针对性和准确性3）时序模型的变点贝叶斯估计在钢材价格分析中的应用（待查的硕士论文）参考文献曹祥•贝叶斯参数估计[EB/OL].。