随机过程知识点汇总.docx
19页第一章随机过程的基本概念与基本类型 一.随机变量及其分布1 .随机变量X,分布函数F(x) P(X x)离散型随机变量 X的概率分布用分布列 pk P(X xk)分布函数F(x) pkx连续型随机变量 X的概率分布用概率密度 f(x) 分布函数F(x) f(t)dt2 . n维随机变量X (Xi,X2, ,Xn)其联合分布函数 F (x) F(x1,x2, , xn) P(X1 x1,X2 x2, , Xn xn,)离散型 联合分布列 连续型联合概率密度3 .随机变量的数字特征数学期望:离散型随机变量 X EX xkpk 连续型随机变量 X EX xf(x)dx2 2 2万差:DX E(X EX) EX (EX) 反映随机变量取值的离散程度EY)] E(XY) EX EY协方差(两个随机变量 X,Y): Bxy E[(X EX )(Y相关系数(两个随机变量 X,Y ):BxyXY . DX . DY若 0,则称X,Y不相关eitx f (x)dx独立 不相关 04 .特征函数 g(t) E(eitX) 离散 g(t) eitxk pk 连续 g(t)重要性质:g(0) 1, |g(t)| 1, g( t) g(t), gk(0) ikEXk5 .常见随机变量的分布列或概率密度、期望、方差0 — 1 分布 P(X 1) p,P(X 0) q EX p DX pq项分布 P(X k) Ckpkqnk EX npDX npqk泊松分布 P(X k) e — EXk!DX 均匀分布略正态分布N(a, 2) f (x)(x a)22 2EX aDXx e指数分布 f ( x)0,1 EX —1 DX —6 . N维正态随机变量 X(Xi,X2,,Xn)的联合概率密度 X ~ N(a, B)一 、 1f (Xi,X2, ,xn) n-(2 )2-rexp{ |B|21 T 1 、2(…B (x a)}a (ai,a2, ,an), x(Xl,X2, ,xn), B (bj )n n 正定协方差阵 二.随机过程的基本概念1 .随机过程的一般定义设(, P)是概率空间,T是给定的参数集,若对每个t T,都有一个随机变量 X与之对应,则称随机变量族 X(t,e),t T是(, P)上的随机过程。
简记为 X(t),t T o含义:随机过程是随机现象的变化过程, 用一族随机变量才能刻画出这种随机现象的全部统计规律性另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的当t固定时,X(t,e)是随机变量当e固定时,X(t,e)时普通函数,称为随机过程的一个样本函数或轨道分类:根据参数集 T和状态空间I是否可列,分四类 也可以根据X(t)之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等2 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性随机过程 X(t),t T的一维分布,二维分布,…,n维分布的全体称为有限维分布函数族随机过程的有限维分布函数族是随机过程概率特征 的完整描述在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征 来取代1)均值函数mX(t) EX (t)表示随机过程 X(t),t T在时刻t的平均值2)方差函数 DX(t) E[X(t) mX(t)]2表示随机过程在时刻t对均值的偏离程度BX(s,t) E[(X(s) mX(s))(X(t) mX(t))](3)协方差函数 且有BX(t,t) DX(t)E[X(s)X(t)] mX(s)mX(t)(4)相关函数Rx (s,t) E[X(s)X(t)] (3)和(4)表示随机过程在时刻s, t时的线性相关程度。
5)互相关函数: X(t),t T, Y(t),t T是两个二阶距过程,则下式称为它们的互协方差函数BxY(s,t) E[(X(s) mx(s))(Y(t) mY(t))],那么RxY(s,t) E[X(s)Y(t)],称为互相关函数E[X(s)Y(t)] mx(s)mY(t)若E[X(s)Y(t)] mx (s)my(t),则称两个随机过程不相关3 .复随机过程 Zt Xt jYt均值函数mz(t) EXt jEYt 方差函数Dz(t) E[| Zt mz(t) |]2 E[(Zt mz(t))(Zt mz(t))]Bz(s,t) E[(Zs mz(s))(Zt mz(t))] —协方差函数 _ 相关函数Rz(s,t) E[ZsZt]E[ZsZ;] mz(s)mZItj4 .常用的随机过程 ■一 2(1)二阶距过程:实(或复)随机过程 X(t),t T ,若对每一个t T ,都有EX(t) (二 阶距存在),则称该随机过程为二阶距过程2)正交增量过程:设 X(t),t T是零均值的二阶距过程,对任意的 t1 12 t3 t4 T,有E[(X(t2) X(ti))(X(t4) X&))] 0,则称该随机过程为正交增量过程。
其协方差函数 Bx(s,t) Rx(s,t) X(min(s,t))(3)独立增量过程:随机过程 X(t),t T,若对任意正整数n 2,以及任意的t1 t2 tn T ,随机变量X(t2) X(ti),X(t4) X(t3), ,X(tn) X (tn 1)是相互独立的,则称X (t),t T是独立 增量过程 进一步,如 X(t),t T是独立增量过程,对任意 s t,随机变量X(t) X(s)的分布仅依赖于t s,则称 X(t),t T是平稳独立增量过程4)马尔可夫过程:如果随机过程 X(t),t T具有马尔可夫性,即对任意正整数n及 t1 t2 tn T, P(X(tJ Xi, ,X(tn i) Xn 1) 0 ,者B有P X(tn) XnX(L) Xi, ,X(tm) Xm PX(tn) XnX(tm) Xn 1 ,则则称 X(t),t T是马尔可夫过程5)正态过程:随机过程 X(t),t T ,若对任意正整数n及t1,t2, ,tn T ,n维正态分布函数,则称(X(ti),X(t2) X(tn))是n维正态随机变量,其联合分布函数是X(t),t T是正态过程或高斯过程6)维纳过程:是正态过程的一种特殊情形。
设W(t), t 为实随机过程,如果,① W(0) 0;②是平稳独立增量过程;③对任意 s,t增量W(t) W(s)服从正态分布,即W(t) W(s)~N(0, 2t s) 2 0则称W(t), t 为维纳过程,或布朗运动过程另外:①它是一个 Markov过程因此该过程的当前值就是做出其未来预测中所需的全部信息②维纳过程具有独立增量 该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加7)平稳过程:严(狭义)平稳过程:X(t),t T ,如果对任意常数 和正整数n及t1,t2, ,tn T ,tl ,t2 , ,tn T , (X(ti),X(t2) X&))与(X(ti ), X& ) X / ))有相同的联合分布,则称 X(t),t T是严(狭义)平稳过程广义平稳过程:随机过程 X(t),t T ,如果① X(t),t T是二阶距过程;②对任意的 t T ,mX(t) EX(t)常数;③对彳E 意 s, t T,RX(s,t) E[X(s)X(t)] R* (t s),或仅与时间差t s有关。
则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程第二章泊松过程一.泊松过程的定义(两种定义方法)1,设随机计数过程 X(t),t 0 ,其状态仅取非负整数值, 若满足以下三个条件,则称:X(t),t T是具有参数 的泊松过程①X(0) 0 ;②独立 增量过程,对任意正整 数n ,以及任 意的tl t2 tn T X(t2) X(ti),X(t3) X(t2), ,X(tn) X (tn 1 )相互独立,即不同时间间隔的计数相互独立;③在任一长度为 t的区间中,事件A发生的次数服从参数 t 0的的泊松分布,即(t)n对任思 t,s 0,有 P X(t s) X(s) n e n 0,1,Ln!E[X(t)] t, E[X(t)],表示单位时间内时间A发生的平均个数,也称速率或强度2,设随机计数过程X(t),t 0,其状态仅取非负整数值,若满足以下三个条件,则称:X(t),t 0是具有参数 的泊松过程①X(0) 0;②独立、平稳增量过程;③P X(t h) X(t) 1 h o(h)oP X(t h) X(t) 2 o(h)第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性。
二.基本性质1,数字特征 mX(t) E[X(t)]t D[X(t)] RX(s,t)s( t 1) st t( s 1) s tBX(s,t) RX(s,t) mX(s)mX(t)min(s,t) 推导过程要非常熟悉2,「表示第n 1事件A发生到第 n次事件发生的时间间隔,Tn,n 1是时间序列,随机变量 Tn服从参数为 的指数分布概率密度为 f (t)e ,t 0 ,分布函数FT (t) 1 e ,t 0均值0, t 0 n 0, t 0为 ETn -证明过程也要很熟悉三.非齐次泊松过程到达时间的分布 略到达强度是t的函数①X(0) 0;②独立增量过程;③P X(t h) X(t) 1P X(t h) X(t) 2(t)h o(h)oo(h)不具有平稳增量性t均值函数 mX(t) E[X(t)] 0 (s)ds定理:X(t),t 0是具有均值为 mX(t)(s)ds的非齐次泊松过程,则有P X(t s) X(t) n [mX(t s) mX(t)] exp [mX(t s) mX(t)]n!四.复合泊松过程设N (t),t 0是强度为 的泊松过程, Yk,k 1,2,L 是一列独立同分布的随机变量,且与N (t)N(t),t 0独立,令X(t) Yk则称X(t),t 0为复合泊松过程。
k 1重要结论:X(t),t 0是独立增量过程;若E(Yi2)则 E[X(t)]tE(K),_ _ 2D[X(t)] tE(Yi )第五章马尔可夫链泊松过程 是时间连续状态离散的马氏过程, 维纳过程 是时间状态都连续的马氏过程 时间和状态都离散的马尔可夫过程称为 马尔可夫链马尔可夫过程的特性:马尔可夫性或无后效性即:在过程时刻 t0所处的状态为已知的条件下,过程在时刻t to所处状态的条件分布与过程在时刻在 有 关, 而 与 过PX(tn) Xn X(ti) Xi, ,X(tni)- P一.马尔可夫链的概念及转移概率1 .定义:设随机过程 Xn,n T,对任意的整数to之前所处的状态无关也就是说,将来只与现去 无 关 表 示 为X(tn) XnX(tm) 4 in T和任意的ioJ,L ,in i I ,条件概率满足P Xn 。





