随机过程读书笔记之主要方面（共五则）

第一篇：随机过程读书笔记之主要方面

随机过程读书笔记之主要方面

(一)整理概率论的基本内容：包括样本空间，事件，概率，条件概率，独立事件，贝叶斯公

式，全概率公式；并给出相应概念的若干应用例子。整理概率的基本性质，包括概率的有限可加性，单调性，连续性等。

(二)给出随机变量的定义，对引入随机变量的必要性（或为什么引入随机变量）给出你的理

解；给出随机变量的累计概率分布函数，离散型随机变量的概率质量函数和连续性随机变量的概率密度函数的定义；并总结几类重要的离散型和连续型随机变量。

(三)介绍Riemann-Stieltjes的积分定义是怎么回事，给出随机变量的期望的Riemann-Stieltjes

定义，并在此基础上给出离散型和连续性随机变量的期望的具体计算公式；总结期望的性质。

(四)给出随机变量的联合分布函数的定义，并引入两个随机变量的独立性的定义；利用联合分布函数，联合概率质量函数，联合概率密度函数，期望，方差，母函数等概念描述两个随机变量是独立的条件。

(五)给出条件期望的引入过程，条件期望的定义和若干重要性质，包括全期望公式，举例说

明全期望公式的重要性。

(六)给出利用逆变换方法模拟分布函数为F(x)的随机变量的理论基础，并给出模拟指数随机

变量和二项随机变量的具体过程。

(七)给出随机过程的定义和相关理解（包括随机过程与随机变量的区别和联系），给出随机

过程的有限维分布函数族的定义，并举例如何求解随机过程的一维和二维分布函数。

(八)总结随机过程的若干数字特征的定义和理解，包括均值函数，方差函数，协方差函数，相关函数，互相关函数，互协方差函数。

(九)总结几种重要的随机过程的定义和相关理解，包括正交增量过程，独立增量过程，马尔

科夫过程，正态过程和维纳过程等。

第二篇：随机过程考试题

一．详述严平稳过程与宽平稳过程的区别与联系。

二．证明独立增量过程是马尔科夫过程。

三．某服务台从上午8时开始有无穷多人排队等候服务，设只有一名工作人员，每人接受服务的时间是独立的且服从均值为20min的指数分布。计算：

(1)到中午12时，有多少人离去？

(2)有9人接受服务的概率是多少？

四．设N(t)为泊松过程，构造随机过程如下：

Z(0)0，Z(t)=Yi

i1N(t)

其中｛Yi｝为独立同分布的随即变量序列，且与N(t)独立。已知Yi的特征函数为Y(u)，求：

(1)Z(t)的一阶特征函数

(2)求E[Z(t)], E[Z2(t)]和var[Z(t)]

五．设马尔科夫链的状态空间I=｛0,1,…｝中转移概率为pi,i11/2，pi01/2，i=0,1,2…，画出状态转移图并对状态分类。

六．设随机过程Z(t)Asin(21t2)，其中A是常数，1与2是相互独立的随机变量，1服从标准正态分布，2在[,]上均匀分布，证明：

(1)Z(t)是宽平稳过程

(2)Z(t)的均值是各态历经的

第三篇：随机过程证明题 合工大

一、证明题

证明公式EEX|YEX



以X、Y为连续性分布进行证明，离散情形类似

设其边缘分布函数和联合分布函数分别为fXx,fYy和fx,y记my=EX|Yy=xfX|Yx,ydxx-

-

+

+

fx,y

dxfYy++

Emy

++

+

-



myfYydy

--



xfx,y

dxfYydyfYy

--

xfx,ydxdyEX

矩母函数相关证明

tY

1.gYtEetYEEe|Nn运用公式EEX|YEX



先证明条件期望EetY|Nn

tXi=Eei1|Nn

nN

tXitXi

Eei1|NnEei1因为N与Xi独立

=gX1Xnt=gX1tgX2tgXntgXtgYtEetYEgXt

N

N



N







2.由矩母函数可以求得X的k阶原点矩的值EXkgk0gY'tENgXt



N1

gX't

N1



N2

gY'0EYENgX0

''



gX'0EN1EXEXEN其中gX0Ee0x1

gXtNgXt

'

N1

3.gYtENN1gXtgY''0ENN1gX0



gX''t





N2

gX'0NgX0

N1

gX''0





ENEXNEXNEX=ENEXNDX

ENN1EXNEX2

EN2EXENDX

证明EYgX2EYEY|X 2

记mXEY|X

EYgXEYmXmXgX

2222EYmXEmXgX2EYmXmXgX

EYmXmXgX



EmXgXEYmX|X运用P12性质3

又EYmX|XEY|XEmX|X

mXmXE1|X0运用P12性质3

222EEYmXmXgX|X运用性质EEX|YEXEYgXEYmXEmXgXEYmXEYEY|X

第四篇：应用统计与随机过程实验报告

实验三 线性系统对随机过程的响应

一、实验目的

通过本仿真实验了解正态白色噪声随机过程通过线性系统后相关函数以及功率谱的变化；培养计算机编程能力。

二、实验要求

采用MATLAB或VB语言进行编程

1)运用正态分布随机数产生函数产生均值为零、根方差=1的白色噪声样本序列[或可参考实验1的正态分布产生方法]{u(n)|n=1, 2,…,2000}；画出噪声u(n)的波形图。2)设离散时间线性系统的差分方程为

x(n)u(n)-0.36u(n-1)0.85u(n-2)(n3,4,...,2000)画出x(n)的波形图。

3)随机过程x(n)的理论上的功率谱密度函数为 S()|10.36ej0.85ej2|2 在[0,π]范围内对w进行采样，采样间隔0.001π，计算S(i×

0.001π)(i=1,2,…,1000);画出波形图。

4)根据步骤(2)产生的数据序列x(n)计算相关函数的估计值 ˆ(m)RX20001x(n)x(nm)(m0,1,2,3,4,5)1998mn3m 与理论值1.1296、-0.666、0.85、0、0、0的差异。

5)根据相关函数的估计值对随机过程的功率谱密度函数进行估计

ˆ(0)2Rˆ(1)cos()2Rˆ(2)cos(2)S1()RXXX 在[0,π]范围内对w进行采样，采样间隔0.001π，计算S1(i× 0.001π)(i=1,2,…,1000);画出波形图；比较其与理论上的功率 谱密度函数S(w)的差异。

6)仿照实验1的方法统计数据x(n)在不同区间出现的概率,计算其理论概率，观察二者是否基本一致。

三、实验代码及结果

1.运用正态分布随机数产生函数产生均值为零、根方差=1的白色噪声样本序列[或可参考实验1的正态分布产生方法]{u(n)|n=1, 2,…,2000}；画出噪声u(n)的波形图。代码：

n=1:2000;u1(n)=rand(1,2000);u2(n)=rand(1,2000);u(n)=sqrt(-2*log(u1(n))).*cos(2*pi*u2(n));stem(u,'.');title('u(n)');波形图：

分析：运用正态分布随机数产生函数产生均值为零、根方差=1的白色噪声样本序列。

2.设离散时间线性系统的差分方程为 x(n)u(n)-0.36u(n-1)0.85u(n-2)(n3,4,...,2000)画出x(n)的波形图。代码：

n=3:2000;x(n)=u(n)-0.36*u(n-1)+0.85*u(n-2);stem(x,'.');title('x(n)');波形图：

分析：正态随机序列通过线性离散系统生成的还是正态随机序列。3.随机过程x(n)的理论上的功率谱密度函数为 S()|10.36ej0.85ej2|在[0,π]范围内对w进行采样，采样间隔0.001π，计算S(i×

0.001π)(i=1,2,…,1000);画出波形图。代码：

i=1:1000;w=0.001*pi.*i;s=(abs(1-0.36.*exp((-1j).*w)+0.85.*exp((-2j).*w))).*(abs(1-0.36.*exp((-1j).*w)+0.85.*exp((-2j).*w)));stem(s,'.');title('s(i*0.001*pi)');波形图：

4.根据步骤(2)产生的数据序列x(n)计算相关函数的估计值 ˆ(m)RX20001x(n)x(nm)(m0,1,2,3,4,5)1998mn3m 与理论值1.1296、-0.666、0.85、0、0、0的差异。代码：

Rx=rand(1,6);for m=1:1:6 sum=0;for n=(3+m):1:2000 sum=sum+x(n)*x(n-m+1);end Rx(m)=sum/(1999-m);end S1=rand(1,1000);for i=1:1:1000 S1(i)=Rx(1)+2*Rx(2)*cos(i*0.001*pi)+2*Rx(3)*cos(2*i*0.001*pi);end figure stem(S1)运行结果：

分析：所得的数据与理论值1.1296、-0.666、0.85、0、0、0存在一定的差异。5.根据相关函数的估计值对随机过程的功率谱密度函数进行估计

ˆ(0)2Rˆ(1)cos()2Rˆ(2)cos(2)S1()RXXX 在[0,π]范围内对w进行采样，采样间隔0.001π，计算S1(i× 0.001π)(i=1,2,…,1000);画出波形图；比较其与理论上的功率 谱密度函数S(w)的差异。代码：

N=1000;P1=0;P2=0;P3=0;P4=0;for n=3:1:N If(x(n)<-1)P1=P1+1;else if(x(n)>=-1&x(n)<=0)P2=P2+1;else if(x(n)>0&x(n)<=1)P3=P3+1;else P4=P4+1;end end end end p1=P1/N p2=P2/N p3=P3/N p4=P4/N p=p1+p2+p3+p4 figure hist(x,1000)return 运行结果：

分析：采样计算得到的功率谱密度函数比较其与理论上的功率谱密度函数相比，没有完全成偶对称。数据的概率分布没有理论那样均匀。6.分析：

理论概率Rx = 1.8315-0.6430 0.8528-0.0473-0.0096-0.0102。所以二者基本一致。

第五篇：应用随机过程学习总结

应用随机过程学习总结

一、预备知识：概率论

随机过程属于概率论的动态部分，即随机变量随时间不断发展变化的过程，它以概率论作为主要的基础知识。

1、概率空间方面，主要掌握sigma代数和可测空间，在随机过程中由总体样本空间所构成的集合族。符号解释： sup表示上确界，inf表示下确界。本帖隐藏的内容

2、数字特征、矩母函数与特征函数：随机变量完全由其概率分布来描述。其中由于概率分布较难确定，因此通常计算随机变量的数字特征来估算分布总体，而矩母函数和特征函数便用于随机变量的N阶矩计算，同时唯一的决定概率分布。

3、独立性和条件期望：独立随机变量和的分布通常由卷积来表示，对于同为分布函数的两个函数，卷积可以交换顺序，同时满足结合律和分配率。条件期望中，最重要的是理解并记忆E(X)= E[E(X|Y)] = intergral(E(X|Y=y))dFY(y)。

二、随机过程基本概念和类型

随机过程是概率空间上的一族随机变量。因为研究随机过程主要是研究其统计规律性，由Kolmogorov定理可知，随机过程的有限维分布族是随机过程概率特征的完整描述。同样，随机过程的有限维分布也通过某些数值特征来描述。

1、平稳过程，通常研究宽平稳过程：如果X(t1)和X(t2)的自协方差函数r(t1,t2)=r(0,t-s)均成立，即随机过程X(t)的协方差函数r(t,s)只与时间差t-s有关，r(t)= r(-t)记为宽平稳随机过程。

因为一条随机序列仅仅是随机过程的一次观察，那么遍历性问题便是希望将随即过程的均值和自协方差从这一条样本路径中估计出来，因此宽平稳序列只需满足其均值遍历性原理和协方差遍历性原理即可。

2、独立增量过程：若X[Tn]– X[T(n-1)]对任意n均相互独立，则称X(t)是独立增量过程。若独立增量过程的特征函数具有可乘性，则其必为平稳增量过程。

兼有独立增量和平稳增量的过程称为平稳独立增量过程，其均值函数一定是时间t的线性函数。

3、随机过程的分类不是绝对的。例如，泊松过程既具有独立增量又有平稳增量，既是连续时间的马尔科夫链，又是一类特殊的更新过程。参数为lambda的泊松过程减去其均值函数同时还是一个鞅。

三、泊松过程

计数过程｛N(t), t>=0｝是参数为λ的泊松过程（λ> 0），具有平稳独立增量性。而其任意时间长度t发生的次数服从均值为λ* t的泊松分布，即E[N(t)]= λ* t。

1、与泊松过程有关的若干分布：Xn表示第n次与第n-1次事件发生的时间间隔，定义Tn表示第n次事件发生的时刻，规定T0= 0。其中，Xn服从参数为λ的指数分布，且相互独立。泊松过程在任何时候都是重新开始。Tn服从参数为n和λ的Γ分布

四、更新过程

更新过程{N(t),t>=0}中Xn仍保持独立同分布性，但分布任意，不再局限于指数分布。更新过程中事件发生一次叫做一次更新，此时Xn就是第n-1次和第n次更新相距的时间，Tn是第n次更新发生的时刻，而N(t)就是t时刻之前发生的总的更新次数。

由强大数定理可知，无穷多次更新只可能在无限长的时间内发生。因此，有限长时间内最多只能发生有限次更新。

1、更新函数：更新理论中大部分内容都是有关E[N(t)]的性质。以M(t)记为E[N(t)]，称为更新函数。此时，M(t)是关于t的函数而不是随机变量。

2、更 新方程：若H(t)，F(t)为已知，且当t<0时，H(t)与F(t)均为0，同时当H(t)在任何区间上有界时，称具有如下形式的方程K(t)= H(t)+ intergral(K(t-s)*dF(s))的方程称为更新方程。当H(t)为有界函数时，更新方程存在唯一的有限区间内的有界的解K(t)= H(t)+ intergral(H(t-s)*dM(s))。

3、更新定理：Feller初等定理、Blackwell更新定理、关键更新定理。其中Blackwell定理指出，在远离原点的某长度为a的区间内，更新次数的期望是a/u，u = E(Xn)。同时，Smith关键更新定理与Blackwell定理等价。

五、马尔科夫链 马 尔科夫链中的转移概率为条件概率，同时给定过去的状态X0，„，Xn-1和现在的状态Xn，将来的状态Xn+1的条件分布与过去的状态独立，只依赖于现在 的状态。其中，Pij = P{Xn+1=j | Xn=i}为马尔科夫链的一步转移概率，它代表处于状态i的过程下一步转移到状态j的概率。

当转移概率Pij只与状态i，j有关而与n无关时，称为时齐马尔科夫链，同时当状态有限时，称为有限链。转移概率矩阵中概率非负，同时随机矩阵中每一行的元素和为1。

记Pij(n)为n步转移概率，它指系统从状态i经过n步后转移到状态j的概率，而对中间n-1步转移经过的状态无要求。对n步转移概率和转移矩阵，有C-K方程公式。

1.状态的分类和性质：如果状态i经过n步转移后到达j的概率大于0，称状态i可达状态j。若同时状态j可达状态i，则称i与j互通，两两互通的状态有传递 性。我们将互通的各个状态归为一类，自己和自己互通，当一个马尔科夫链中只有一类时称为不可约类，否则则是可约类。

如果状态i可以经过n步回到i状态，则将所有n的最大公约数记为状态i的周期，即d(i)，如果d>1，则称i是周期的，如果d=1则为非周期，空集时为无穷大。同属于一类的两状态周期相同。

记 状态i出发经n步后首次到达j的概率为Fij(n)，则所有可能n的概率Fij(n)加起来的和记为Fij。若Fij=1，i为常返状态，Fij< 1，i为非常返状态或瞬时状态。对于常返状态i，记Ui为从i第一次回到i的期望步长，若Ui有限，称i为正常返状态，若趋于无穷大，则为零常返状态。若 正常返状态i同时还是非周期的，则称之为遍历状态。若遍历状态且Fii(1)=1，则称为吸收状态，此时Ui=1。

对于同属于一类的状态i，j，他们同为常返状态或非常返状态，并且当他们是常返状态时，又同为正常返状态或零常返状态。状态i至j的n步转移概率与首达概率间存在一定关系。同时若i与j互通且i为常返状态，则Fji = 1。2.极限定理及平稳分布：马尔科夫链的极限情况即状态i经过无穷多步转移后到达i的概率是多少。有结论，若状态i是周期为d的常返状态，则Pii(nd)= d/Ui，即经过无穷多步后回到i的概率为常数，上述定理对Pij也有效。同时，不可约的有限马尔科夫链是正常返的。

若 对于马尔科夫链Pj = P(Xn = j)= sum(Pi*Pij)，则概率分布Pj为平稳分布。因为此时，对于任意Xn均有相同的分布。同时，对于遍历的马尔科夫链，极限分布就是平稳分布并且还是 唯一的平稳分布。极限分布即为很长时间后，无论最开始状态如何，最终达到某一状态的概率。若对于遍历的马尔科夫链，该概率是稳定的趋于常数。

3.连续时间马尔科夫链、Kolmogorov微分方程

六、鞅

鞅 的定义是从条件期望出发，如果每次赌博的输赢机会是均等的，并且赌博策略依赖于前面的赌博结果，赌博是“公平的”。因此，任何赌博者都不可能通过改变赌博 策略将公平的赌博变成有利于的赌博。如果将“鞅”描述的是“公平”的赌博，下鞅和上鞅分别描述了“有利”赌博与“不利”赌博。

随机过程｛Sn, n>=0｝称为Fn=sigma{X0,X1,„,Xn}适应的，如果对任意n>=0，Sn是Fn可测的，即Sn可以表示为X0,X1,X2,„,Xn的函数

1.鞅的停时定理：任意随机函数T是关于{Xn，n>=0}的停时，即{T=n}应由n时刻及其之前的信息完全确定，而不需要也无法借助将来的情况，同时T必须是一个停时。同时，{T<=n}和{T>=n}也由n时刻及其之前的信息完全确定。若T和S是两个停时，则 T+S，min{T,S}和max{T,S}也是停时。

则在一直Fn完全信息的前提下，有界停时的期望赌本与初始赌本相同。特别的，当完全信息未知时，有界停时的期望赌本与初始赌本的期望相同。

2.鞅的一致可积性：如果对任意ε>0，存在δ>0，使得对任意A，当P(A)<δ时，有E(|Xn|Ia)<ε对任意n成立。一致可积条件一般较难验证，因此存在两个一致可积的充分条件。

3.鞅的收敛定理：在很一般的情况下，鞅｛Mn｝会收敛到一个随机变量。即对于｛Mn, n>=0｝是关于｛Xn, n>=0｝的鞅，并且存在常数C有限，使得E(|Mn|)

七、布朗运动

若B(0)=0，{B(t),t>=0}有平稳独立增量，对每个t>0，B(t)服从正态分布N(0, t)称之为标准布朗运动。布朗运动的二次变差[B,B](t)= t。

布 朗运动是满足以下三点性质的随即过程，即对于B(t)-B(s)~ N(0,t-s)，B(t)-B(s)服从均值为0，方差为t-s的正态分布。当s=0时，B(t)-B(0)~N(0,t)。并且，对任意0& lt;=s=0)是t的连续函 数。由于布朗运动在有限维分布是空间平移不变的空间齐次性，只需研究始于0的布朗运动即可。

1.高斯过程：有限维分布是多元正态分布的随机过程。布朗运动是一种特殊的高斯过程，即B(t)的任何有限维分布都是正态的。2.｛B(t)｝是鞅，｛B(t)^2t｝也是鞅，则｛X(t)｝是布朗运动。

3.布朗运动｛B(t)｝具有马尔科夫性，容易得到B(t+s)在给定条件Ft=sigma(B(0),B(1),„,B(t))下的分布与在给定条件 B(t)下的分布是一致的。同时由布朗运动具有时齐性，即分布不随时间的平移而变化可知，布朗运动的所有有限维分布都是时齐的。

4.布朗运动的最大值变量及反正弦率：即求始于y点的布朗运动在区间(a,b)中至少有一个零点的概率为布朗运动的反正弦率。

5.几何布朗运动X(t)= exp｛B(t)｝为几何布朗运动。在金融市场中，人们经常假定股票价格是按照几何布朗运动而发生变化。

八、随机积分

1.布朗运动的积分，Ito积分过程，Ito公式，随机微分方程 2.Black-Scholes模型