首页 >
大数定理
✍ dations ◷ 2025-08-08 15:20:57 #大数定理
在数学与统计学中,大数定律又称大数法则、大数律,是描述相当多次数重复实验的结果的定律。根据这个定律知道,样本数量越多,则其算术平均值就有越高的概率接近期望值。大数定律很重要,因为它“说明”了一些随机事件的均值的长期稳定性。人们发现,在重复试验中,随着试验次数的增加,事件发生的频率趋于一个稳定值;人们同时也发现,在对物理量的测量实践中,测定值的算术平均也具有稳定性。比如,我们向上抛一枚硬币,硬币落下后哪一面朝上是偶然的,但当我们上抛硬币的次数足够多后,达到上万次甚至几十万几百万次以后,我们就会发现,硬币每一面向上的次数约占总次数的二分之一,亦即偶然之中包含着必然。切比雪夫不等式的一个特殊情况、辛钦定理和伯努利大数定律都概括了这一现象,都称为大数定律。例如,抛掷一颗均匀的6面的骰子,1,2,3,4,5,6应等概率出现,所以每次扔出骰子后,出现点数的期望值是1
+
2
+
3
+
4
+
5
+
6
6
=
3.5
{displaystyle {frac {1+2+3+4+5+6}{6}}=3.5}根据大数定理,如果多次抛掷骰子,随着抛掷次数的增加,平均值(样本平均值)应该接近3.5,根据大数定理,在多次伯努利实验中,实验概率最后收敛于理论推断的概率值,对于伯努利随机变量,理论推断的成功概率就是期望值,而若对n个相互独立的随机变量的平均值,频率越多则相对越精准。例如硬币投掷即伯努利实验,当投掷一枚均匀的硬币,理论上得出的正面向上的概率应是1/2。因此,根据大数定理,正面朝上的比例在相对“大”的数字下,“理应”接近为1/2,尤其是正面朝上的概率在n次实验(n接近无限大时)后应几近收敛到1/2。即使正面朝上(或背面朝上)的比例接近1/2,几乎很自然的正面与负面朝上的绝对差值(absolute difference差值范围)应该相应随着抛掷次数的增加而增加。换句话说,绝对差值的概率应该是会随着抛掷次数而接近于0。直观的来看,绝对差值的期望会增加,只是慢于抛掷次数增加的速度。大数定律主要有两种表现形式:弱大数定律和强大数定律。定律的两种形式都肯定无疑地表明,样本均值收敛于真值其中
X
1
{displaystyle X_{1}}
,
X
2
{displaystyle X_{2}}
, ... 是独立同分布、期望值
E
(
X
1
)
=
E
(
X
2
)
=
⋯
=
μ
{displaystyle operatorname {E} (X_{1})=operatorname {E} (X_{2})=,cdots ,=mu }
且皆勒贝格可积的随机变量构成的无穷序列。
X
j
{displaystyle X_{j}}
的勒贝格可积性意味着期望值
E
(
X
j
)
{displaystyle operatorname {E} (X_{j})}
存在且有限。方差
Var
(
X
1
)
=
Var
(
X
2
)
=
⋯
=
σ
2
<
∞
{displaystyle operatorname {Var} (X_{1})=operatorname {Var} (X_{2})=,cdots ,=sigma ^{2}<infty }
有限的假设是非必要的。很大或者无穷大的方差会使其收敛得缓慢一些,但大数定律仍然成立。通常采用这个假设来使证明更加简洁。强和弱之间的差别在所断言的收敛的方式。对于这些方式的解释,参见随机变量的收敛。弱大数定律也称为辛钦定理,陈述为:样本均值依概率收敛于期望值。也就是说对于任意正数 ε,强大数定律指出,样本均值以概率1收敛于期望值。即设
a
1
,
a
2
,
…
,
a
n
,
…
{displaystyle a_{1}, a_{2}, dots , a_{n}, dots }
为相互独立的随机变量,其数学期望为:
E
(
a
i
)
=
μ
(
i
=
1
,
2
,
…
)
{displaystyle operatorname {E} (a_{i})=mu quad (i=1, 2, dots )}
,方差为:
Var
(
a
i
)
=
σ
2
(
i
=
1
,
2
,
…
)
{displaystyle operatorname {Var} (a_{i})=sigma ^{2}quad (i=1, 2, dots )}则序列
a
¯
=
1
n
∑
i
=
1
n
a
i
{displaystyle {overline {a}}={frac {1}{n}}sum _{i=1}^{n}a_{i}}
依概率收敛于
μ
{displaystyle mu }
(即收敛于此数列的数学期望
E
(
a
i
)
{displaystyle E(a_{i})}
)。换言之,在定理条件下,当
n
{displaystyle n}
无限变大时,
n
{displaystyle n}
个随机变量的算术平均将变成一个常数。设在
n
{displaystyle n}
次独立重复伯努利试验中,
事件
X
{displaystyle X}
发生的次数为
n
x
{displaystyle n_{x}}
。
事件
X
{displaystyle X}
在每次试验中发生的总体概率为
p
{displaystyle p}
。
n
x
n
{displaystyle {frac {n_{x}}{n}}}
代表样本发生事件
X
{displaystyle X}
的频率。大数定律可用概率极限值定义:
则对任意正数
ε
>
0
{displaystyle varepsilon >0}
,下式成立:定理表明事件发生的频率依概率收敛于事件的总体概率。
定理以严格的数学形式表达了频率的稳定性。
就是说当
n
{displaystyle n}
很大时,事件发生的频率于总体概率有较大偏差的可能性很小。
相关
- 心肌病心肌病变(英语:cardiomyopathy)是一组会影响心肌之疾病的通称。早期的症状可能很轻微,甚至没有症状。有些会是因为心脏衰竭而有呼吸困难、容易疲倦或脚部水肿的情形,可能会有心律
- 癫痫发作癫痫发作(epileptic seizure 或epileptic fit,有时在文献或新闻只简单称为 seizure 或fit) 是因为脑中的过度的神经振荡而出现的医学病征。 这种脑内异常的外溢效应(outward eff
- 阿托莫西汀阿托莫西汀(Atomoxetine, 商品名:Strattera择思达)为一种用于治疗注意(力)缺陷多动障碍(ADHD)的药物,属于非中枢神经刺激药物。主要副作用有:口干、疲倦等。该药为去甲肾上腺素再摄
- 西医人体解剖学 - 人体生理学 组织学 - 胚胎学 人体寄生虫学 - 免疫学 病理学 - 病理生理学 细胞学 - 营养学 流行病学 - 药理学 - 毒理学医学是以诊断、治疗和预防生理和心理
- 物质滥用物质滥用(英语:Substance abuse)广义上也被称为药物滥用(英语:drug abuse),药物滥用是指经常用于临床效力的处方药使用,但是滥用潜力和已知的反作用与不适当使用联系在一起,比如有镇
- 断裂生殖断裂生殖是一种无性生殖方式,指一些多细胞动物,因外力使生体断裂成两半,则断裂的另一半在生长发育成新个体。过程可以是有意或无意的,断裂后的部分仍然可以生长至一完整个体,并继
- P53 p63 p73家族p53 p63 p73 家族 是一个抑癌基因家族包括:有时候也简称为“p53家族”。p53、p63与p73不但在结构与功能上相似,在进化上也有相关性。整个p53家族都是从无脊椎动物的p63/p73祖
- 疏水核心疏水效应(英语:Hydrophobic effect)又称疏水性效应,属于非极性分子的一种性质,会使这些分子在水溶液中具有自我聚集(self-associate)的特性。例如油在水中会呈现与水分离的现象。此
- 鲷鱼鲷科(学名:Sparidae)为辐鳍鱼纲鲷形目(或传统上为鲈形目鲈亚目)的一个科。本科鱼类广泛分布于全世界各大洋之热带及温带沿岸之浅水区内。少数栖息在深水区。栖息水深平均约在十米
- 圣罗莎圣罗莎(英语:Santa Rosa)是美国加利福尼亚州索诺马县的一个市,也是该县的首府。市政府建制于1868年3月26日,面积104.6平方公里,根据2010年美国人口普查共住有人口16万7815人。圣罗