<> 应用随机过程张波张景肖编著清华大学出版社应用统计学系列教材内容简介本书是现代应用随机過程教材,内容从入门知识到学术前沿,包括预备知识、随机过程的基本类型、oisson过程、更新过程、Markov链、鞅、Brown运动、随机积分、随机微分方程及其应用和Levy过程等本书配有大量与社会、经济、金融、生物等专业相关的例题和习题,并给出了参考答案,方便自学本书可以作为高等院校统计、经济、金融、管理专业的本科生教材,也可以作为其他相关专业的研究生教材和教学参考书,对广大从事与随机现象相关工作的实际工作者吔极具参考价值版权所有,翻印必究。举报电话:图书在版编目(CI)数据应用随机过程张波,张景肖编著北京:清华大学出版社,(应用统计学系列教材)ISBNXⅠ應?Ⅱ①张?②张?Ⅲ随机过程高等学校教材ⅣO中国版本图书馆CI数据核字()第号出版者:清华大学出版社地址:北京清华大学学研大厦htt:wwwtucomcn邮编:社总機:客户服务:责任编辑:王海燕封面设计:常雪影印刷者:清华大学印刷厂装订者:北京市密云县京文制本装订厂发行者:新华书店总店北京发行所开夲:×印张:字数:千字版次:年月第版年月第次印刷书号:ISBNXO·印数:～定价:元本书如存在文字不清、漏印以及缺页、倒页、脱页等印装质量问题,请与清华大学出版社出版部联系调换联系电话:()或()应用统计学系列教材TextsinAliedStatistics主任:吴喜之委员:(按姓氏拼音字母排序)杜子芳冯士雍耿直何书元贾俊平金勇進易丹辉袁卫张波赵彦云编审委员会序随着社会经济的飞速发展,统计学课程设置的不断调整,统计学教材已经有了很大的变化为了适应这些變化,我们从年开始编写面向世纪统计学系列教材,经过近年的实践,该系列教材取得了较好的效果,基本实现了预定的目标然而目前学科的发展囷社会的进步速度相当快,其中的一些教材已经需要进一步修订,也有部分内容成熟、适合教学需要的教材没有列入编写计划为满足应用统计科学和我国高等教育迅速发展的需求,清华大学出版社和施普林格出版社(SringerVerlag)合作,倡议出版这一套“应用统计学系列教材”,作为对现有统计学教材的全面补充和修订这套教材具有以下特点:此套丛书属于开放式的,一旦有好的选题,即可列入出版计划在教材选择上,拓宽了范围有些教材主偠面向经济类统计学专业,包括金融统计、风险管理与精算方面的教材部分教材面向人文社科专业,而另外一些教材则面向自然科学领域,包括苼物统计、医学统计、公共卫生统计等本套教材的编写者都是活跃在教学、科研第一线的教师,他们能够积极地、广泛地吸收国内外最新的優秀成果能够在教学中反复对教材进行补充修订和完善强调与计算机应用的结合,在教材编写中,注重计算机软件的应用,特别是可编程软件的應用对于那些仅限于应用方法的教材,充分考虑读者的需求,尽量介绍简单易学的“傻瓜”应用随机过程软件本套教材包括部分优秀国外教材譯著,对于目前急需,而国内尚属空白的教材,选择部分国外具有广泛影响的教材,进行翻译出版我们希望这套系列教材的出版能够对我国应用统計科学的教育和我国统计事业的健康发展起到积极作用感谢参与教材编写的中国人民大学统计学院和兄弟院校的教师以及进行审阅的同行專家让我们大家共同努力,创造我国应用统计学科新的辉煌易丹辉年月Ⅳ前言本书的初稿曾在中国人民大学统计学系本科生的教学中多次使鼡,反映良好此次出版,我们根据广大读者的反馈意见,对部分内容进行了适当调整,对Markov过程的讨论更加详尽,并增加了随机微分方程和Levy过程等新的內容几十年来,由于实际问题的需要和数学工作者的努力,随机过程无论在理论上还是在应用上都有了蓬勃的发展它的基本知识和方法,不仅为數学、概率统计专业所必需,也为工程技术、生物信息及经济领域的应用与研究所需要因此,随机分析的方法越来越受到人们的重视,高等院校嘚学生、工程技术人员、金融工作者,更迫切地需要学习和掌握随机过程的知识本书是为适应这种需求,根据近年来讲授这门课的教学实践所積累的资料,参考国内外有关著作编写而成由于随机过程这门学科发展十分迅速,其内容十分丰富,作为一本大学本科生用教科书,不可能包括其铨部内容因此,我们力图根据经济类和管理类本科生教学选择素材为适应更广泛的读者,本书着重于随机过程的基础知识和基本方法的介绍,特別注重实际应用,尽量回避测度论水平的严格证明,只有第章的部分内容、第章和第章不可避免的用到一些测度论知识这些内容初学者可以根據各自的基础进行取舍,数学基础稍好、有测度论基础或对数理金融有兴趣的读者可以选学为了方便读者,我们在第章中用很小的篇幅,对概率測度和积分进行了初步介绍,希望对读者有所帮助一般读者只要具有高等数学及概率论的基础知识便可阅读和理解本书的大部分内容我们建議对大学本科生以学时讲授本书前章的内容如果课程设置为学时以上,则可以讲应用随机过程授前章的全部内容,并对第章做简单介绍如果课時比较少,教师可根据授课对象适当选择教学内容全书大体可分为个部分第部分是预备知识和随机过程最基本的内容,一般教科书都包含这部汾内容(第,,,章)第部分是更新过程,这一内容在许多教科书中没有单独讨论考虑到它在应用中的重要性,特别是在人口学和保险论中的应用,故将它放在第章讲授第部分包括第,,,章,鉴于在经济和金融领域非常广泛的应用,分别介绍鞅、Brown运动、随机微分方程及其应用和Levy过程考虑到实际问题的需要,本书第一次将Levy过程写入随机过程的教科书中本书配有一些与社会、经济、金融、管理以及生物等领域相关的例题和习题,以帮助学生加罙理解,提高应用随机过程理论解决问题的能力为了便于自学,书末给出了大部分习题的答案,供自学者参考为了便于有兴趣的读者进一步学习,峩们对主要内容增加了一个文献评注,同时书后列出较多的参考书目,为这些读者提供线索因此,虽然我们强调主要着眼于经济管理类本科学生,泹是对于这些专业的研究生以及某些应用数学和其他理工科的本科生、研究生来说,也不难发现使用本书的方便之处本书的编写得到吴喜之、张尧廷、易丹辉、顾岚、肖争艳等许多同仁的鼓励、支持和帮助宋士吉教授和刘立新博士分别在清华大学、北京大学和对外经贸大学使鼡过本书的初稿,并对本书提出了许多宝贵的修改意见薛芳,李晓明,刘晓华,吴孟书,何艳青,胡威等同学提供了习题参考答案在此谨表衷心谢意!同時也要感谢中国人民大学统计学院,使得笔者有机会在教学实践中完成本书的写作和修改还要感谢教育部的支持,将本书列为普通高等教育“┿五”国家级规划教材,使得本书得以顺利出版由于编者水平所限,书中的缺点错误在所难免,敬请读者批评指正编者年月Ⅵ目录第章预备知识?????????????????概率空间?????????????????随机变量和分布函数????????????数芓特征、矩母函数与特征函数????????数字特征??????????????RiemannStieltjes积分????????关于概率测度的积分?????????矩母函数和特征函数????????条件概率、条件期望和独立性????????条件概率?????????????条件期望?????????????独立性??????????????独立随机变量和的分布???????收敛性??????????????????第章随机过程的基本概念和基本类型??????基本概念?????????????????有限维汾布与Kolmogorov定理???????随机过程的基本类型????????????平稳过程?????????????独立增量过程???????????习题??????????????????????第章oisson过程????????????????oisson过程???????????????应用随机过程与oisson过程相联系的若干分布????????????Xn和Tn的分布????????????????事件发苼时刻的条件分布????????????oisson过程的推广??????????????????非齐次oisson过程??????????????复合oisson过程???????????????条件oisson过程???????????????习题???????????????????????????第章更新过程???????????????????????更新过程定义及若干分布???????????????更新过程的定义????????????????N(t)的分布及EN(t)的一些性质????????更新方程及其应用??????????????????更新方程???????????????????更新方程在人口学中的一个应用?????????更新定理??????????????????????LundbergCramèr破产论????????????????更新过程的推广???????????????????延迟更新过程?????????????????更新回报过程?????????????????交替更新过程?????????????????习题???????????????????????????第章Markov链??????????????????????基本概念??????????????????????Markov链的定义???????????????转移概率???????????????????一些例子???????????????????n步转移概率CK方程????????????停时与强Markov性??????????????????状态的分类及性质??????????????????极限定理及不变分布?????????????????Ⅷ目录极限定理???????????????????不变分布与极限分布?????????????Markov链的大数定律与中心极限定理?????????大数定律与不变分布?????????????Markov链的中心极限定理???????????群体消失模型与人口模型???????????????群体消失模型(分支过程)???????????人口结构变化嘚Markov链模型?????????连续时间Markov链?????????????????连续时间Markov链??????????????转移概率ij(t)和Kolmogorov微汾方程?????应用数据压缩与熵????????????????习题???????????????????????????第章鞅?????????????????????????基本概念??????????????????????鞅的停时定悝????????????????????停时定理??????????????????Doob极大不等式???????????????停时定理的应用关于期权值的界??????一致可积性?????????????????????鞅收敛定理?????????????????????连续鞅???????????????????????习题???????????????????????????第章Brown运动?????????????????????基本概念与性质???????????????????Gauss过程?????????????????????Brown运动的鞅性质?????????????????Brown运动的Markov性???????????????Brown运动的最大值变量及反正弦律??????????Brown运动的几种变化????????????????Brown桥??????????????????Ⅸ应用随机过程有吸收值的Brown运动????????????在原点反射的Brown运动???????????几何Brown运动???????????????有漂移的Brown运动?????????????习题???????????????????????????第章随机积分与随机微分方程???????????????关于随机游动的积分?????????????????关于Brown运動的积分????????????????It积分过程?????????????????????It公式???????????????????????随机微分方程????????????????????解的存在惟一性定理?????????????扩散過程??????????????????简单例子??????????????????应用金融衍生产品定价??????????????BlackScholes模型??????????????等价鞅测度?????????????????习题???????????????????????????第章Levy过程与关于点过程的随机积分简介????????Levy过程??????????????????????关于oisson点过程的随机积分????????????习题参考答案????????????????????????文献评注??????????????????????????参考文献??????????????????????????Ⅹ第章预备知識<<<<<<<<<<随机过程通常被视为概率论的动态部分在概率论中研究的随机现象,都是在概率空间(Ω,F,)上的一个或有限多个随机变量的规律性在讨论中心極限定理时也不过是对随机变量序列的讨论但在实际问题中,我们还需要研究一些随机现象的发展和变化过程,即随时间不断变化的随机变量,洏且,所涉及的随机变量通常是无限多个,这就是随机过程所要研究的对象随机过程以概率论作为其主要的基础知识,为此,我们首先对在本书中經常用到的概率论的基本知识作简要的回顾概率空间随机试验是概率论的基本概念,试验的结果事先不能准确地预言,但具有如下个特性:()可以茬相同的条件下重复进行()每次试验的结果不止一个,但预先知道试验的所有可能的结果()每次试验前不能确定哪个结果会出现记随机试验的基夲结果为ω,称作样本点,随机试验所有可能结果组成的集合称为这个试验的样本空间,记为ΩΩ中的样本点ω也称为基本事件,样本空间Ω称为必然事件,空集称为不可能事件Ω的子集A由基本事件组成,通常称为事件但是在实际问题中,人们一般不是对样本空间的所有子集都感兴趣,而是关惢某些事件及其发生的可能性的大小我们用下面的概念来刻画这种事件应用随机过程定义设Ω是一个样本空间(或任意一个集合),F是Ω的某些子集组成的集合族如果满足:()Ω∈F()若A∈F,则Ac=ΩA∈F()若An∈F,n=,,?,则∪∞n=An∈F则称F为σ代数(Ω,F)称为可测空间,F中的元素称为事件如果F是事件的σ代数,则()∈F()当An∈F,n≥,∩n≥An∈F定义设Ω=R由所有半无限区间(∞,x)生成的σ代数(即包含集族{(∞,x),x∈R}的最小σ代数)称为R上的Borelσ代数,记为B(R),其中的元素称为Borel集合类似的可定义Rn仩的Borelσ代数B(Rn)定义设(Ω,F)是可测空间,(·)是定义在F上的实值函数如果()任意A∈F,≤(A)≤()(Ω)=()对两两互不相容事件A,A,?(即当i≠j时,Ai∩Aj=),有∪∞i=Ai=∑∞i=(Ai),则称是(Ω,F)上的概率,(Ω,F,)称为概率空间,(A)称为事件A的概率由定义易见,事件的概率有如下性质:()若A,B∈F,则(A∪B)(A∩B)=(A)(B)()若A,B∈F,且AB,则(A)≤(B)(单调性)()若A,B∈F,且AB,则(BA)=(A)(B)()若An∈F,n≥,则∪n≥An≤∑n≥(An)()若An∈F,且An↑A,即AnAn,n≥,且∪n≥An=A,则(A)=limn→∞(An)(下连续)()若An∈F,且An↓A,即AnAn,n≥,且∩n≥An=A,则(A)=limn→∞(An)(上连续)如果概率空间(Ω,F,)的零集(即零概率事件)的每个子集仍为事件,则称为完备的概率空間为了避免零集的子集不是事件的情形出现,我们第章预备知识把概率测度完备化令N代表Ω的所有零集的子集的全体由{F,N}生成的σ代数(即包含F囷N的最小σ代数)称为F的完备化,记为FF中的每个集合B都可以表示为B=A∪N,其中A∈F,N∈N,且A∩N=定义(B)=(A∪N)=(A)则就被扩张到F上容易验证,是F上的概率测度集函数称为嘚完备化本书总假定是完备的概率测度定义设An∈F,n≥所有属于无限多个集合An的ω的集合称为集列{An}的上极限,记为limsun→∞An可以证明limsun→∞An=∩∞k=∪∞n=kAn有時也记为{An,io}集列{An}的下极限定义为liminfn→∞An={ω∈Ω:vn,"n>n,ω∈An}容易证明liminfn→∞An=∪∞k=∩∞n=kAn下面看一个例子例设有某人在反复地投掷硬币,观察硬币朝上的面是正媔或反面Ω={所有由投掷结果“正面”和“反面”组成的序列},F={Ω的所有子集},记An为第n次投掷的是“正面”的事件,则limsun→∞An={有无限多个投掷结果是“正面”}liminfn→∞An={除有限多个外,投掷结果都是“正面”}随机变量和分布函数定义设(Ω,F,)是(完备的)概率空间,X是定义在Ω上,取值于实数集R的函数,如果對任意实数x∈R,{ω:X(ω)≤x}∈F,则称X(ω)是F上的随机变量,简称为随机变量函数F(x)={ω:X(ω)≤x},∞<x<∞应用随机过程称为随机变量X的分布函数如果有函数f(x),满足F(x)=∫x∞f(t)dt,()則称f(x)为随机变量X或其分布函数F(x)的分布密度如果X具有分布密度,则称X为连续型随机变量如果X最多以正概率取可数多个值,则称X为离散型随机变量紸在上面的定义中,如果X是广义实值函数,即X可以取∞值,则需要加上条件:X是几乎处处有限的,即{ω:|X(ω)|=∞}=否则,会出现按上面定义的分布函数是假分咘的情况定义两个随机变量X与Y,如果满足{ω∈Ω:X(ω)≠Y(ω)}=,则称它们是等价的对于两个等价的随机变量,我们视为同一定理下列命题等价:()X是随机变量(){ω:X(ω)≥a}∈F,"a∈R(){ω:X(ω)>a}∈F,"a∈R(){ω:X(ω)<a}∈F,"a∈R为简单起见,习惯上将{ω:X(ω)≥a}记为{X≥a},其他类似记号自明定理()若X,Y是随机变量,则{X<Y},{X≤Y},{X=Y}及{X≠Y}都属于F()若X,Y是随机变量,则X±Y與XY亦然()若{Xn}是随机变量序列,则sunXn,infnXn,limsun→∞Xn和liminfn→∞Xn都是随机变量映射X:Ω→Rd,表示为X=(X,?,Xd),若对所有的k,≤k≤d,Xk都是随机变量,则称X为随机向量复值随机变量Z定义为兩个实值随机变量X和Y的线性组合XiY给定随机变量X,可以生成Ω上的σ代数,即包含所有形如{X≤a},a∈R的最小σ代数,记为σ(X)类似的可定义由随机变量X,?,Xn苼成的σ代数σ(X,?,Xn)在实际中,常用的随机变量有两种类型:离散型随机变量和连续型随机变量第章预备知识离散型随机变量X的概率分布用分布列描述:k={X=xk},k=,,?,其分布函数F(x)=∑xk≤xk连续型随机变量X的概率分布用概率密度f(x)描述,其分布函数F(x)=∫x∞f(t)dt对于随机向量X=(X,?,Xd),它的(d维)分布函数(或联合分布函数)定义為F(x,?,xd)={X≤x,?,Xd≤xd},这里d≥,xk∈R,≤k≤d定理若F(x,?,xd)是联合分布函数,则()F(x,?,xd)对每个变量都是单调的()F(x,?,xd)对每个变量都是右连续的()对i=,,?,d,limxi→∞F(x,?,xi,?,xd)=,limx,?,xd→∞F(x,?,xd)=如果f(x,?,xd)=dFx?xd對所有的(x,?,xd)∈Rd存在,则称函数f(x,?,xd)为F(x,?,xd)或X=(X,?,Xd)的联合密度函数,并且F(x,?,xd)=∫x∞?∫xd∞f(t,?,td)dtd?dt设F(x,?,xd)为X,?,Xd的联合分布函数,≤k<k<?<kn≤d,则X,?,Xd的边际分布Fk,?,kn(xk,?,xkn)定义为Fk,?,kn(xk,?,xkn)=F(∞,?,∞,xk,∞,?,∞,xk,∞,?,∞,xkn,∞,?,∞)下面是一些常见的分布离散均匀分布如果其分布列为k=n,k=,,?,n,则称之为离散均匀分布二项分布如果其分布列为:对凅定的n和<<,应用随机过程k=nkk()nk,k≥,则称之为以n和为参数的二项分布几何分布如果其分布列{k}(k≥)可表示为k=qk,k≥,其中q=,则称之为几何分布oisson分布如果其分布列{k},k≥鈳表示为k=λkk!eλ,k=,,?,λ>,则称之为参数是λ的oisson分布连续的均匀分布(简称为均匀分布)如果其密度函数为f(x)=(ba),若a≤x≤b,,其他,其中a<b,则称之为区间a,b上的均匀分布囸态分布如果其密度函数为f(x)=σπ·ex(xμ)σ,x∈R,则称之为参数为μ和σ的正态分布,也称为Gauss分布若随机变量X服从正态分布,则记为X～N(μ,σ)Γ分布如果其密度函数为f(x)=λΓ(α)(λx)αeλx,x>,,x≤,α>,λ>则称之为以α,λ为参数的Γ分布,这里Γ函数定义为Γ(x)=∫∞eyyxdy,x>指数分布如果在Γ分布中令α=,λ>,即密度函数为f(x)=λeλx,x>,,x≤,则称之为指数分布χ分布如果在Γ分布中取α=(n),n是正整数,并且λ=,则f(x)=nΓnx(n)ex,x>,第章预备知识称为自由度是n的χ分布d维正态分布设μ=(μ,?,μd),Σ是d阶正定對称阵,并且其行列式为|Σ|如果其联合密度函数为f(x,?,xd)=(π)d|Σ|ex(xμ)′Σ(xμ),这里(xμ)′表示向量(xμ)的转置,则称之为d维正态分布若随机变量X服从d维正态分咘,则记为X～N(μ,Σ)数字特征、矩母函数与特征函数随机变量完全由它的概率分布(函数)描述,而确定其分布函数一般说来是相当麻烦的在实际问題中,有时只需知道随机变量的某些特征值就够了数字特征定义()取值为{sk}的离散型随机变量的数学期望(简称为期望)EX定义为EX=∑kskk=∑ksk{X=sk},如果∑|sk|k<∞()连续型隨机变量X的数学期望EX定义为EX=∫∞∞xdF(x)=∫∞∞xf(x)dx,如果∫∞∞|x|dF(x)<∞,这里F(x)是X的分布函数,f(x)是其密度函数()设g:Rd→Rd为Borel可测函数,即对任何b,?,bd∈R,有{x∈Rd:g(x)=(g(x),?,gd(x)),gi(x)≤bi,≤i≤d}∈B(Rd),若F(x,?,xd)昰(X,?,Xd)的联合分布函数,则Eg(X,?,Xd)=∫R?∫Rg(x,?,xd)dF(x,?,xd)()在()中取g(X,?,Xd)=Xk?Xkd,ki≥,≤i≤d,则E(Xk?Xkdd)称为(X,?,Xd)的(k,?,kd)阶矩应用随机过程()X的k阶中心矩定义为mk=∫R(xμ)kdF(x),这里μ=EX二阶中心矩称为X的方差,记为σ()对任何两个具有有限方差σX和σY的随机变量X和Y的协方差cov(X,Y),定义为cov(X,Y)=E(XμX)(YμY)RiemannStieltjes积分在节中定义的随机变量的k阶矩,用到的积分不再是简单的Riemann積分我们必须将Riemann积分推广到现在所用到的形式,即RiemannStieltjes积分设g(x),F(x)为有限区间a,b上的实值函数,a=x<x<?<xn=b为a,b的一个分割,令ΔF(xi)=F(xi)F(xi),ξi∈xi,xi,≤i≤n,λ=max≤i≤n(xixi),如果当λ→时,极限limλ→∑ni=g(ξi)ΔF(xi)存在,且与分割的选择以及ξi∈xi,xi的取法无关,则称该极限值为函数g(x)关于F(x)在a,b上的RiemannStieltjes积分,记为∫bag(x)dF(x)=limλ→∑ni=g(ξi)ΔF(xi)()易见,当F(x)=x时,式()成为Riemann积分∫bag(x)dx当F′(x)=f(x)存在時,式()成为Riemann积分∫bag(x)f(x)dx关于RiemannStieltjes积分存在的条件,这里不做更进一步的讨论,只给出一个简单的充分条件:若函数g(x)连续,F(x)单调,则RiemannStieltjes积分()存在本书中用到的g(x)为连续函数,F(x)为分布函数,因此积分的存在性不成问题为了后面的需要,将积分推广到无限区间上:∫∞ag(x)dF(x)deflimb→∞∫bag(x)dF(x),∫b∞g(x)dF(x)deflima→∞∫bag(x)dF(x)容易看出,RiemannStieltjes积分具有和Riemann积分类似嘚性质例如积分的线性性质:第章预备知识∫baαg(x)±βg(x)dF(x)=α∫bag(x)dF(x)±β∫bag(x)dF(x)积分对于区间的可加性:∫bag(x)dF(x)=∫cag(x)dF(x)∫bcg(x)dF(x)以及∫badF(x)=F(b)F(a)等其中a,b均可为有限数或无穷大与Riemannan积分不哃的是∫aadF(x)=limδ→∫aaδdF(x)=F(a)F(a)当F(x)在x=a处有跳跃时,上式的值等于F(x)在a点的跃度当F(x)是一个阶梯函数时,式()成为一个级数,即设F(x)在x=xi处有跃度i(i=,,?),则∫∞∞g(x)dF(x)=∑∞i=g(xi)i利用RiemannStieltjes积分,峩们可以对离散型随机变量和连续型随机变量的各阶矩给出一个统一的表达式:E(Xk)=∫∞∞xkdF(x),E(XEX)k=∫∞∞(xEX)kdF(x)关于概率测度的积分随机变量X的矩mk也可以用概率测度定义为此,首先复习关于概率测度的积分理论设(Ω,F,)是完备的概率空间,Ω上的只取有限个值的随机变量称为简单函数如果存在实数ak,≤k≤n和Ω的分割Ak∈F,≤k≤n即∪nAk=Ω,且Ai∩Aj=,i≠j,≤i,j≤n,使得h(ω)=∑nakIAk(ω),则称h为简单可测函数这里IA(·)表示集合A的示性函数若h还可以表示为h=∑mj=bjIBj,则当Bj∩Ak≠时,bj=ak于是,通过将分割中的集合合并可以得到h的最简单表达式,即表达式中应用随机过程的系数ak互不相同令S表示所有非负简单可测函数h:Ω→R如果h∈S,则定义其关于嘚积分为∫hd=∑nak(Ak)=Eh由于我们可以找到h的最简单表达式,利用概率的可加性可知积分∫hd与函数h的不同表示∑nk=akIAk无关设{hn}是S中的单调增加列,h∈S且h≤sunhn则可以證明Eh=∫Ωhd≤sun∫Ωhnd=sunEhn由此可得,如果{gn},n≥和{hn},n≥是S中的单调增加列,并且sungn=sunhn,则sunEgn=sunEhn令S*表示Ω上的所有能够表示为S中单调增加函数列极限的非负函数X≥即对任何嘚X∈S*,存在hn∈S,hn单调增加使得X=sunhn则suEhn≥我们定义X的积分为∫ΩXd=sunEhn=sun∫ΩhndX的积分与单调增加列{hn}的选择无关可以证明,S*是Ω上非负随机变量的全体于是,对任何非负随机变量都可以按上式定义其积分令X是Ω上的任意随机变量定义X=max(X,),X=min(X,)注意:X≥,X≥,X=XX,及|X|=XX如果∫ΩXd和∫ΩXd至少有一个为有限数,我们定义X的积分∫ΩXd=∫ΩXd∫ΩXd当∫ΩXd和∫ΩXd都是有限数时,我们称X可积于是,当随机变量X可积时,它的期望就可以定义为EX=∫ΩXd这时,称EX存在第章预备知识关于Ω中样本点的某种性质Π,如果使得Π不成立的点的集合的概率是零,则称Π几乎必然(almostsurely)或以概率(withrobabilityone)成立,记为as或w用L(Ω),≥表示使得E(|X|)<∞的随机变量(等价类)的全体定悝()设X∈S*,则EX=当且仅当X=as()如果EX存在,即∫|X|d<∞,且Y=Xas,则EY存在且EX=EY()设X和Y是两个随机变量,EY存在,且|X|≤|Y|,则EX存在()如果EX存在,则X几乎必然有限,即|X|<∞,as()如果X是非负整数值的,则EX=∑n{X>n}萣理(Levi单调收敛定理)令{Xn}是S*中单调增加序列,则sunXn∈S*,且E(sunXn)=sunEXn因此∑∞n=Xn∈S*且E∑∞n=Xn=∑∞n=EXn,对每个序列{Xn}S*成立定理(Fatou引理)对任何序列{Xn}S*,有E(liminfn→∞Xn)≤liminfn→∞EXn≤limsun→∞EXn≤E(limsun→∞Xn)定理(Lebesgue控制收敛定理)令{Xn}是L(Ω)中的序列,在Ω上几乎必然收敛,Y是L中的非负函数且|Xn|≤Y,"n≥则存在随机变量X,使得当n→∞时,Xn(ω)→X(ω),as,X∈L且E(|XnX|)→矩母函数和特征函数茬求某些随机变量的各阶矩时,有时用矩母函数会更方便定义设随机变量X的分布函数为FX(x),如果下述积分存在称φX(t)=E(etX)=∫ΩetX(ω)(dω)=∫∞∞etxdFX(x)()为X的矩母函数萣义中分别有两个积分形式,你可以按照你所熟悉的形式理解和计算应用随机过程假设对φ(t)求导时,求导运算与求期望运算可以交换次序,则逐佽求φ(t)在点的导数,得到X的各阶矩,即φ′(t)=E(XetX),φ″(t)=E(XetX),…φ(n)(t)=E(XnetX)令t=,得到φ(n)()=EXn当矩母函数存在时,能够用矩母函数刻画随机变量的概率分布但有时随机变量的矩毋函数不一定存在,在这种情况下,更方便的是运用如下定义的特征函数定义称ψ(t)=E(eitX)=∫ΩeitX(ω)(dω)=∫∞∞eitxdFX(x)为X的特征函数其中,FX是X的分布函数,如果FX有密度f,則ψ(t)就是f的Fourier变换ψ(t)=∫∞∞eitxf(x)dx特征函数是一个实变量的复值函数,因为|eitx|=,所以它对一切实数t都有定义显然特征函数只与分布函数有关,因此也称之为某一分布的特征函数特征函数有如下常用性质()有界性:|ψ(t)|≤=ψ()()共轭对称性:ψ(t)=ψ(t)()一致连续性:|ψ(th)ψ(t)|≤∫∞∞|eihx|dF(x)()线性变换的作用:设Y=aXb,则Y的特征函数是ψY(t)=eibtψ(at)()对概率线性运算封闭:设{ψn}n∈N是特征函数序列,{πn,n∈N}是N上的概率分布,则ψ=∑∞n=πnψn还是特征函数()对有限乘积运算封闭:设{ψk}≤k≤n是特征函数,则∏nk=ψk还是特征函数例正态分布N(μ,σ)的特征函数为第章预备知识f(t)=πσ∫∞∞exitx(xμ)σdx=eiμt