多元正态分布60页.pdf

第二章 多元正态分布 §§2.1 多元正态分布的定义多元正态分布的定义 §§2.2 多元正态分布的性质多元正态分布的性质 §§2.3 复相关系数和偏相关系数复相关系数和偏相关系数 §§2.4 极大似然估计及估计量的性质极大似然估计及估计量的性质 §§2.5 和和(n − 1) S的抽样分布的抽样分布 X §2.1 多元正态分布的定义 一元一元正态分布正态分布N(μ,σ2)的概率密度函数的概率密度函数为：为： 若随机向量若随机向量 的概率密度函数为的概率密度函数为 则称则称X服从服从p元正态分布元正态分布，记作，记作X~Np (μ, Σ)，其中，参数，其中，参数μ 和和Σ分别为分别为X的均值和协差阵的均值和协差阵                   2 2 2 1 21 1 2 22 1 2 1 2 2 e exp, x fx xxx                        12 (,,,) p XX XX             21 2 1 1 2 2 exp p fxΣxμΣxμ            例例1（二元正态分布（二元正态分布 ）） 设设X~N2(μ, Σ)，这里，这里 易见，易见，ρ是是X1和和 X2的相关系数。

当的相关系数当|ρ|0)作如下的剖分：作如下的剖分： 2 111 , nnn iipiiii iii k XNk μk Σ      111112 222122 ,, XμΣΣkkk XμΣ XμΣΣpkpkpk kpk        则子向量则子向量X1和和X2相互独立，当且仅当相互独立，当且仅当Σ12=0 该性质指出，对于多元正态变量而言，其子向量之间该性质指出，对于多元正态变量而言，其子向量之间 互不相关和相互独立是等价的互不相关和相互独立是等价的 （（7）设）设X~N p (μ, Σ), Σ0，则，则 例例4 设设X~N3(μ,Σ)，其中，其中 则则X2和和X3不独立，不独立，X1和和(X2,X3)独立         12 XμΣXμp      00 0 0 3 51 11 Σ         （（8）设）设X~N p (μ, Σ), Σ0，作如下剖分，作如下剖分 则给定则给定X2时时X1的条件分布为的条件分布为 ，其中，其中 μ1· 2和和Σ11· 2分别是条件数学期望和条件协方差矩阵，分别是条件数学期望和条件协方差矩阵， Σ11· 2通常称为偏协方差矩阵。

通常称为偏协方差矩阵  1 1 21122222 1 11 211122221 x     μμΣ Σμ ΣΣΣ Σ Σ    1 211 2 , k NμΣ 111112 222122 ,, XμΣΣkkk XμΣ XμΣΣpkpkpk kpk        这一性质表明，对于多元正态变量，其子向量的条件分布这一性质表明，对于多元正态变量，其子向量的条件分布 仍是（多元）正态的仍是（多元）正态的 例例5 设设X~N3(μ, Σ)，其中，其中 试求给定试求给定X1+2X3时时 的条件分布的条件分布 0 11642 ,441 2214 μΣ           23 1 XX X     §2.3 复相关系数和偏相关系数 一、复相关系数一、复相关系数 二、偏相关系数二、偏相关系数 一、复相关系数 相关系数度量了一个随机变量相关系数度量了一个随机变量x1与另一个随机变量与另一个随机变量x2 之间线性关系的强弱。

之间线性关系的强弱 复相关系数度量了一个随机变量复相关系数度量了一个随机变量X1与一组随机变量与一组随机变量X2, ⋯⋯,Xp之间线性关系之间线性关系的强弱 将将X, Σ(0)剖分如下：剖分如下： 11121 22122 11 11 11 , Xσ XΣ XσΣpp p          X1和和X2的线性函数的线性函数 间的最大相关系数称为间的最大相关系数称为 X1和和X2 间的间的复复(或或多重多重)相关系数相关系数(multiple correlation coefficient)，记作，记作ρ1∙2,⋯ ⋯,p, 它度量了一个变量 它度量了一个变量X1与一组与一组 变量变量X2, ⋯⋯,Xp间的相关程度间的相关程度 可推导出可推导出 例例4 随机变量随机变量X1,⋯⋯,Xp的任一线性函数的任一线性函数F=l1X1+⋯⋯+ lp Xp 与与X1,⋯⋯,Xp的复相关系数为的复相关系数为1 证明证明:    1 2 1 212221 1 212 11 ,, 0 max, p l σ Σ σ X l X             2 l X        111 11 1 1 1 ,, a 0 ,, max, , Fppp pp Fp F a Xa X F l Xl X           二、偏相关系数 将将X, Σ(0)剖分如下：剖分如下： 称称 为给定为给定X2时时X1的的偏协方差矩偏协方差矩 阵阵。

记记 ，称，称 为为偏协方差偏协方差，， 它是剔除了它是剔除了 的（线性）影响之后，的（线性）影响之后， Xi和和Xj之间的协方差之间的协方差 11112 22122 , XΣΣkk XΣ XΣΣpkpk kpk        1 11 211122221 ΣΣΣ ΣΣ       11 21,,ij kp Σ      1,,ij kp        21, , kp XXX       给定给定X2时时Xi 和和Xj的的偏相关系数偏相关系数（（partial correlation coefficient））定义为定义为: 其中其中 ρij∙k+1,⋯ ⋯,p度量了剔除 度量了剔除Xk+1, ⋯⋯,Xp的（线性）影响之后，的（线性）影响之后，Xi 和和Xj间相关关系的强弱间相关关系的强弱 对于多元正态变量对于多元正态变量X，由于，由于Σ11∙2也也是条件协方差矩阵，是条件协方差矩阵， 故此时偏相关系数与条件相关系数是同一个值，从而故此时偏相关系数与条件相关系数是同一个值，从而 ρij∙k+1,⋯ ⋯,p同时也度量了在 同时也度量了在Xk+1, ⋯⋯,Xp值给定的条件下值给定的条件下Xi和和 Xj间相关关系的强弱。

间相关关系的强弱 1 1 11 1 ,, ,, ,,,, ,, ij kp ij kp ii kpjj kp i jk               11 21,,ij kp Σ      §3.5 和(N − 1)S2的抽样分布 一、一、 的抽样分布的抽样分布 二、二、 (n − 1)S的抽样分布的抽样分布 X X 一、 的抽样分布 1.正态总体正态总体 设设X~Np (μ, Σ), Σ0 ，，X1,X2, ⋯⋯,Xn是从总体是从总体X中抽取的中抽取的 一个样本，则一个样本，则 2.非正态总体（非正态总体（中心极限定理中心极限定理）） 设设X1,X2, ⋯⋯,Xn是来自总体是来自总体X的一个样本，的一个样本，μ和和Σ存在，当存在，当 n很大且很大且n相对于相对于p也很大时，上式近似地成立也很大时，上式近似地成立 1 , p XNμΣ n    X 设样本资料可用矩阵表示为设样本资料可用矩阵表示为 11121(1) 21222(2) 12 12( ) (,) p p p nnnpn XXX XXX XXX            ， ， X X XXXX X 在这里我们给出样本均值向量、样本离差阵、样本协差阵以及在这里我们给出样本均值向量、样本离差阵、样本协差阵以及 样本相关阵的定义。

样本相关阵的定义 定义定义 2.9 设设 (1)(2)( ) ,,, n XXX为来自为来自p元总体的样本，其中元总体的样本，其中 ( )12 (,,,) aaaap XXXX，，1,2,,an （（1）） 样本均值向量定义为样本均值向量定义为 ( )12 1 1 ˆ(,,,) n ap a XXX n    μXX （（2.10）） 其中其中 11211 12222 ( ) 1 12 11 n n n a a ppnp XXX XXX nn XXX          X 11211 12222 12 1 n n ppnp XXX XXX n XXX           1 2 p X X X         （（2）样本离差阵定义为）样本离差阵定义为 ( )( ) 1 ()()() n p paaijp p a s     SXXXX （（2.11）） 这里，这里， ( )( ) 1 ()() n aa a   XXXX 11 22 1122 1 (,,,) a n a aaapp a app XX XX XXXXXX XX             1 2 ()()()()() 11112211 2 ()()()()() 22112222 2 ()()()()() 1122 n a XXXXXXXXXX app aaaa XXXXXXXXXX app aaaa XXXXXXXXXX appappapp aa             ppij pppp p p s sss sss sss                 )( 21 22221 11211     （（3）样本协差阵定义为）样本协差阵定义为 ( )( ) 1 11 ()()() n p paaijp p a v nn     VSXXXX （（2.12）） 这里，这里， ( )( ) 1 11 ()() n aa a nn    SXXXX 1 1 ()() n aiiajj a p p XXXX n    。