大数定律

大量实验证明, 随机事件A的频率$f_n(A)$当重复实验的次数n增大到一定程度时, 总能呈现出稳定性, 稳定在某个常数附近, 频率的稳定性是概率定义的客观基础. 它表明在大量独立同分布的随机变量的平均值将收敛于其期望值。

大数定理分为弱大数定理和强大数定理两种

弱大数定理

设$X_1,X_2,...,X_n$ 相互独立, 服从同一分布的随机变量序列, 且有数学期望$E(X_k)=\mu$ , 则序列
$\overline{X}=\frac{1}{n}{\sum }_{k=1}^n{X}_k$
收敛于$\mu$.

辛钦大数定理的重要推论是强大数定理

Link to original

强大数定理

设 $X_1,X_2,\dots ,X_n$ 是一列独立同分布的随机变量，其数学期望为 $\mu$。那么有：
$P\left({\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n{X}_i=\mu \right)=1$

大数定理表明，随着样本数量 $n$ 的增加，样本平均值 $\frac{1}{n}{\sum }_{i=1}^n{X}_i$ 将趋近于总体的期望值 $\mu$。这意味着在进行大量重复试验时，实际观测到的平均结果将接近理论期望值。

Link to original