1 大数定律

1.1 弱大数定律 (辛钦大数定律)

设随机变量序列 $ X_{1} $, $X_{2}$,$ \ldots $ 相互独立服从同一分布,具有数学期望$E\left({X}_{i}\right)=\mu,i=1,2,…$,则对于任意正数$\mathcal{E}$,有

$$
\lim_{n\to\infty}P{|\frac1n\sum_{i=1}^nX_i-\mu|<\varepsilon}=1
$$

1.1.1 依概率收敛定义及性质

设Y1, Y2, …,Yn…是一个随机变量序列,a是一个常数。若对任意正数ε,有

$$
\lim_{n\to\infty}P{|Y_n-a|<\varepsilon}=1
$$

$则称序列 Y_{1}, Y_{2}, \cdots Y_{n}, \cdots 依概率收敛于a$,记作$Y_{n} \xrightarrow{P} a.$

1.1.2 定理1的另一种叙述

设随机变量序列X1,X2, … 相互独立,服从同一分布,具有数学期望$E\left(X_{i}\right)=\mu, i=1,2, \ldots$ 则序列$\bar{X}=\frac{1}{n} \sum^{n} X_{i} 依概率收敛于 \mu 。即$$\bar{X} \xrightarrow{P} \mu$。

1.2 伯努利大数定律

设 nA 是n次独立重复试验中事件A发生的次数,p是事件A在每次试验中发生的概率,则对于任意正数ε> 0 ,有

$$
\lim_{n\to\infty}P{|\frac{n_A}n-p|<\varepsilon}=1\text{或}\lim_{n\to\infty}P{|\frac{n_A}n-p|\geq\varepsilon}=0
$$


2 中心极限定理

2.1 中心极限定理产生的背景

实际中,许多随机变量是由大量的相互独立的随机因素的综合影响所形成的,而每一个个别因素在总的影响中所起的作用都是微小的。这种随机变量往往近似地服从正态分布。

2.2 定理1(独立同分布下的中心极限定理)

设随机变量$X_{1}, X_{2}, \cdots X_{n}, \cdots$相互独立,服从同一分布,且具有数据期望和方差:

$$
E(X_{k})=\mu, D(X_{k})=\sigma^{2}, k=1,2, \cdots
$$

则随机变量之和$\sum_{k=1}^{n} X_{k}$的标准化变量为:

$$
Y_{n}=\frac{\sum_{k=1}^{n} X_{k}-n \mu}{\sqrt{n} \sigma}
$$

其分布函数F(x)对任意x满足:

$$
\lim_{n\to\infty}P{|\frac{n_A}n-p|<\varepsilon}=1\text{或}\lim_{n\to\infty}P{|\frac{n_A}n-p|\geq\varepsilon}=0
$$

上述结论等价于:

2.3 定理3 棣莫佛-拉普拉斯(De Movire-Laplace定理)

设随机变量$\eta_{n}(n=1,2, \ldots)$服从参数$n, p(0<p<1)$的二项分布,则对任意x,有

$$
\lim_{n\to\infty}P{\frac{\eta_n-np}{\sqrt{np(1-p)}}\leq x}=\int_{-\infty}^x\frac1{\sqrt{2\pi}}e^{-\frac{t^2}2}dt=\Phi(x)
$$

定理标命,当n很大时,0<p<1是一个定值时,二项变量$\eta_{n}$的分布近似正态分布$N(n p, n p(1-p))$,即:

$$
\eta_{n} \stackrel{\text { 近似地 }}{\sim} N(n p, n p(1-p))
$$

例1 一加法器同时收到20个噪声电压Vk(k=1,2,…20),设它们是相互独立的随机变量, 且都在区间(0,10)上服从均匀分布. 记$V=\sum_{k=1}^{n} V_{k}$, 求$P{V>105}$的近似值