怎样理解和区分中心极限定理的应用与大数定律

概率论与数理统计教材上的解释,每次看过觉得懂了,之后用到还是很混乱。希望找到一个有启发性的解释!大数定律说的是随机现象平均结果稳定性。中心极限定理论证随机变量的和的极限分布是正态分布。假设检验中经常用到 某个统计量标准化(减期望再比方差)后的渐进分布是标准正态,这个应该是中心极限定理最常见的应用之一。在使用这一条的时候有什么限制吗?还是所有统计量都可以套用进来,只需要样本量不太小(比如30以上)?
楼主的问题让我想起了当年自己也对这俩东西闹不明白的时候,想象一下当年的自己,然后看了下大家的答案,感觉好像回答的都不够直接,于是我再无邀自答一下。简单来说,大数定律(LLN)和中心极限定理(CLT)的联系与区别在于:共同点:都是用来描述独立同分布(i.i.d)的随机变量的和的渐进表现(asymptotic behavior)区别:首先,它们描述的是在不同的收敛速率(convergence rate)之下的表现,其次LLN前提条件弱一点:, CLT成立条件强一点:多说一句关于收敛速率,假设有 n 个 i.i.d 的随机变量,令它们的和为 大数定律(以其中弱大数定律为例)说的是
~~~~~~~~~~~~ (1)中心极限定理说的是
~~~~~~~~~~~ (2)注意表达式(1)和表达式(2)差了个有没有!所以你就记住这条就不会混乱了,来,跟我念一遍:“差了个!”
试图从另一个角度给出一个还算启发性的答案。&br&&br&题主学过微积分的泰勒展开吧,对一个连续可导的函数,在一点局部我们认为这个函数可以用线性函数来拟合,从而有&br&&img src=&///equation?tex=f%28x%29%5Capprox+f%28x_0%29%2Bf%27%28x_0%29%28x-x_0%29%2Bo%28x-x_0%29& alt=&f(x)\approx f(x_0)+f'(x_0)(x-x_0)+o(x-x_0)& eeimg=&1&&.&br&这里面&img src=&///equation?tex=f%28x_0%29& alt=&f(x_0)& eeimg=&1&& 是零阶项,&img src=&///equation?tex=f%27%28x_0%29%28x-x_0%29& alt=&f'(x_0)(x-x_0)& eeimg=&1&&是一阶修正,&img src=&///equation?tex=o%28x-x_0%29& alt=&o(x-x_0)& eeimg=&1&&是高阶小量。&br&&br&与此对应,我们可以试着对随机变量的进行“局部的泰勒展开”。假设&img src=&///equation?tex=X_1%2CX_2%2C%5Cdots& alt=&X_1,X_2,\dots& eeimg=&1&&是独立同分布的变量,那么根据大数定律和中心极限定理,我们有&br&&img src=&///equation?tex=X_1%2BX_2%2B%5Ccdots%2BX_n%5Capprox+n%5Ccdot%5Cmathbb%7BE%7D+X_1%2B%5Csqrt%7Bn%7D%5C%2C%5Cmathrm%7Bstd%7D%28X_1%29%5Ccdot+%5Cmathcal%7BN%7D%280%2C1%29%2Bo_p%28%5Csqrt%7Bn%7D%5C%2C%5Cmathrm%7Bstd%7D%28X_1%29%29& alt=&X_1+X_2+\cdots+X_n\approx n\cdot\mathbb{E} X_1+\sqrt{n}\,\mathrm{std}(X_1)\cdot \mathcal{N}(0,1)+o_p(\sqrt{n}\,\mathrm{std}(X_1))& eeimg=&1&&.&br&其中期望&img src=&///equation?tex=%5Cmathbb%7BE%7DX_1& alt=&\mathbb{E}X_1& eeimg=&1&&对应&img src=&///equation?tex=f%28x_0%29& alt=&f(x_0)& eeimg=&1&& ,标准差&img src=&///equation?tex=%5Cmathrm%7Bstd%7D%28X_1%29& alt=&\mathrm{std}(X_1)& eeimg=&1&&对应一阶导&img src=&///equation?tex=f%27%28x_0%29& alt=&f'(x_0)& eeimg=&1&&,标准正态分布&img src=&///equation?tex=%5Cmathcal%7BN%7D%280%2C1%29& alt=&\mathcal{N}(0,1)& eeimg=&1&&对应线性函数&img src=&///equation?tex=x-x_0& alt=&x-x_0& eeimg=&1&&,&img src=&///equation?tex=o_p%28%5Csqrt%7Bn%7D%5C%2C%5Cmathrm%7Bstd%7D%28X_1%29%29& alt=&o_p(\sqrt{n}\,\mathrm{std}(X_1))& eeimg=&1&&是概率意义下的高阶小量。&br&&br&通过这个类比我们可以这样理解大数定律和中心极限定理:&br&1、大数定律和中心极限定理可以看做随机变量的零阶和一阶“泰勒展开”,其中大数定律是随机变量的“零阶估计”,中心极限定理是在大数定律成立下的“一阶导数”,在极限下高阶小量可忽略。&br&2、大数定律负责给出估计——期望,中心极限定理负责给出大数定律的估计的误差——标准差乘以标准正态分布。&br&3、通过泰勒展开我们可以对中心极限定理的应用范围有一个直观的估计。为了使泰勒展开成立,我们假设了高阶小量&img src=&///equation?tex=o_p%28%5Csqrt%7Bn%7D%5C%2C%5Cmathrm%7Bstd%7D%28X_1%29%29& alt=&o_p(\sqrt{n}\,\mathrm{std}(X_1))& eeimg=&1&&在取平均(除以&img src=&///equation?tex=n& alt=&n& eeimg=&1&&后)是可以忽略的。为了使这一点成立,我们至少需要样本量和方差在同一量级上或者更小。&br&4、其实我们还可以进行更高阶的展开,貌似三阶展开对应的统计量叫做skewness,wiki上常用分布的词条都会给出这一数值。不过实际应用中中心极限定理已经足够,所以通常也就不需要了。
试图从另一个角度给出一个还算启发性的答案。 题主学过微积分的泰勒展开吧,对一个连续可导的函数,在一点局部我们认为这个函数可以用线性函数来拟合,从而有 f(x)\approx f(x_0)+f'(x_0)(x-x_0)+o(x-x_0). 这里面f(x_0) 是零阶项,f'(x_0)(x-x_0)是一阶修…
A1.大数定律成立的条件比中心极限定理宽松,前者只需要一阶矩存在,而后者需要前两阶矩都存在。&br&因为条件更强,中心极限定理的结论也更强,大数定律只是证明几乎处处收敛,却没有指明收敛的速度,而中心极限定理给出了收敛的极限分布和渐近方差。&br&&br&A2. 中心极限定理有很多版本,最常见的版本要求(或假设)所有样本独立同分布,且他们共同服从的分布存在前两阶原点矩。&br&即&img src=&///equation?tex=EX+%3C+%5Cinfty& alt=&EX & \infty& eeimg=&1&&, &img src=&///equation?tex=E%28X%5E2%29+%3C+%5Cinfty& alt=&E(X^2) & \infty& eeimg=&1&&. 由于&img src=&///equation?tex=E%28X%5E2%29+%3C+%5Cinfty& alt=&E(X^2) & \infty& eeimg=&1&&可以推出&img src=&///equation?tex=EX+%3C+%5Cinfty& alt=&EX & \infty& eeimg=&1&&,故在使用的时候只要保证二阶矩有限即可。对于并非独立同分布的情形,有较弱条件下的中心极限定理,亦称 The&br&Linderberg-Feller Theorem. 不详述了。&br&&br&PS. 诚如题主所言,中心极限定理和强、弱大数定律是概率论的核心,历史悠久(不晚于1733年)研究者甚众【至少包括拉普拉斯(Laplace)、棣莫佛(de Movire)、林德伯格(Linderberg)、列维(Levy)、费勒(Feller)、李雅普诺夫(Lyapunov)、切比雪夫(Chebyshev)、马尔可夫(Markov)、科尔默格洛夫(Kolmogorov)、波若尔(Borel),坎泰利(Cantelli)等巨擘】,各种版本(比如随即过程的中心极限定理、三角级数的中心极限定理等等)和推广也不少,很难一两句话讲清,水平有限,草草。
A1.大数定律成立的条件比中心极限定理宽松,前者只需要一阶矩存在,而后者需要前两阶矩都存在。 因为条件更强,中心极限定理的结论也更强,大数定律只是证明几乎处处收敛,却没有指明收敛的速度,而中心极限定理给出了收敛的极限分布和渐近方差。 A2. 中心…
已有帐号?
无法登录?
社交帐号登录
Graduate student(window.slotbydup=window.slotbydup || []).push({
id: '2014386',
container: s,
size: '234,60',
display: 'inlay-fix'
&&|&&0次下载&&|&&总7页&&|
您的计算机尚未安装Flash,点击安装&
阅读已结束,如需下载到电脑,请使用积分()
下载:5积分
0人评价36页
0人评价21页
0人评价23页
0人评价29页
0人评价7页
所需积分:(友情提示:大部分文档均可免费预览!下载之前请务必先预览阅读,以免误下载造成积分浪费!)
(多个标签用逗号分隔)
文不对题,内容与标题介绍不符
广告内容或内容过于简单
文档乱码或无法正常显示
若此文档涉嫌侵害了您的权利,请参照说明。
评价文档:
下载:5积分20 大数定律和中心极限定理_土豆_高清视频在线观看君,已阅读到文档的结尾了呢~~
扫扫二维码,随身浏览文档
手机或平板扫扫即可继续访问
理解中心极限定理与大数定律
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由:
将文档分享至:
分享完整地址
文档地址:
粘贴到BBS或博客
flash地址:
支持嵌入FLASH地址的网站使用
html代码:
&embed src='/DocinViewer-4.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布,请您等待!
3秒自动关闭窗口}

我要回帖

更多关于 中心极限定理证明 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信