抛一百次硬币，正面的比例大概在 0.5 附近晃，抛一万次，这个比例离 0.5 更近，晃得也更少。伯努利 1713 年把这件事算成了定理，他知道次数越多，频率落进给定范围的概率越大，却没说次数固定时误差有多大、误差按什么分布。这两件事后来分成两条线，一条讲平均值往哪里去，一条讲偏离有多大。1867 年切比雪夫写下一个只用期望和方差就能封顶的式子，两条线从此各有各的定理。
一、切比雪夫不等式：只用两个数封顶
设 \(E(X)=\mu\)，\(D(X)=\sigma^2\)，手上只有这两个数，还能对「\(X\) 离 \(\mu\) 超过 \(\varepsilon\)」说点什么吗。可以，而且不必知道 \(X\) 服从哪个分布，只要方差存在。把 \((X-\mu)^2\) 当成一个非负随机变量，它的期望就是 \(\sigma^2\)；一旦 \(|X-\mu|\ge\varepsilon\)，这个量至少是 \(\varepsilon^2\)，所以跑远的那部分概率被 \(\sigma^2/\varepsilon^2\) 压住了。
定理（切比雪夫不等式）
设随机变量 \(X\) 的期望 \(E(X)=\mu\)、方差 \(D(X)=\sigma^2\) 都存在，则对任意 \(\varepsilon>0\)， \[ P\{|X-\mu|\ge\varepsilon\}\le\frac{\sigma^2}{\varepsilon^2}, \] 等价地 \[ P\{|X-\mu|<\varepsilon\}\ge 1-\frac{\sigma^2}{\varepsilon^2}. \]
两行式子分开用：第一行管跑偏的概率，第二行管落在区间里的把握。取 \(\varepsilon=2\sigma\)，上界是 0.25；取 \(\varepsilon=3\sigma\)，上界是 0.111。数字不漂亮，好处是不挑分布，抛硬币的计数和仪器的读数用的是同一套常数，换分布不用重算。
代价是松。同样取 3 倍标准差，正态分布在 3σ 之外的尾部只有 0.0027，切比雪夫给的是 0.111，差了四十倍；想守住 95% 的把握，切比雪夫要求 ε 取到 4.47σ，正态只要 1.96σ。做证明时松一点无所谓，做计算时就得换成真实分布，这一章第四节的正态近似专门补这个缺口。
这个界是怎么压出来的
先有马尔可夫不等式：对非负的 \(Y\) 与正的 \(a\)，有 \(P\{Y\ge a\}\le E(Y)/a\)。把 \(Y\) 取成 \((X-\mu)^2\)、\(a\) 取成 \(\varepsilon^2\)，右边就是 \(\sigma^2/\varepsilon^2\)。课本直接给结论，考试写证明时把这两步摆出来最省事。
二、依概率收敛与大数定律
要把「频率稳定」写成能证明的命题，得先说清一列随机变量收敛是什么意思。逐点收敛对随机变量太苛刻，摊开一条样本路径看，某个 \(n\) 上离期望很远完全可能，这种事概率为零却足以破坏逐点收敛。课本退一步，只管偏差超过 \(\varepsilon\) 的那部分概率，让它趋于零。
定义（依概率收敛）
设 \(Y_1,Y_2,\dots\) 是一列随机变量，\(a\) 为常数。若对任意 \(\varepsilon>0\)，有 \[ \lim_{n\to\infty}P\{|Y_n-a|<\varepsilon\}=1, \] 则称 \(Y_n\) 依概率收敛于 \(a\)，记作 \(Y_n\xrightarrow{P}a\)。
这个定义只谈概率，不谈某一次的结果。抛一万次硬币，频率落在 0.5 附近 0.01 以内的概率大约 0.95，下一把照样可能出反面，连出十次反面也照样允许出现，只是这种极端事件的总概率被 \(n\) 压到了零。频率稳定说的是概率稳定，赌徒把它读成「该轮到反面了」，读错了地方。
定理（切比雪夫大数律）
设 \(X_1,X_2,\dots\) 相互独立，方差都存在且有共同上界 \(D(X_k)\le C\)（\(k=1,2,\dots\)），则对任意 \(\varepsilon>0\)， \[ \lim_{n\to\infty}P\left\{\left|\frac{1}{n}\sum_{k=1}^{n}X_k-\frac{1}{n}\sum_{k=1}^{n}E(X_k)\right|<\varepsilon\right\}=1. \] 特别地，若各 \(X_k\) 同分布、\(E(X_k)=\mu\)，则样本均值 \(\bar X\) 依概率收敛于 \(\mu\)。
证明只有两行。和的期望等于期望的和，独立时方差可以相加，于是 \(\bar X\) 的期望还是 \(\mu\)，方差缩成 \(\sigma^2/n\)；把这两个数塞进切比雪夫不等式，右边是 \(\sigma^2/(n\varepsilon^2)\)，\(n\) 一大就趋于零，所以 \(\bar X\) 与 \(\mu\) 的差距超过 \(\varepsilon\) 的机会被挤没了。
定理（伯努利大数律）
设 \(n_A\) 是 \(n\) 重伯努利试验中事件 \(A\) 发生的次数，每次试验 \(A\) 发生的概率为 \(p\)，则对任意 \(\varepsilon>0\)， \[ \lim_{n\to\infty}P\left\{\left|\frac{n_A}{n}-p\right|<\varepsilon\right\}=1. \]
它是切比雪夫大数律的特例。把每次试验记成 0-1 变量，\(n_A\) 就是这 \(n\) 个变量之和，方差 \(p(1-p)\) 不超过 1/4，共同上界自动成立。伯努利当年花在组合数上的力气，今天用一个不等式就绕过去了，得到的结论还更一般。
定理（辛钦大数律）
设 \(X_1,X_2,\dots\) 独立同分布，期望 \(E(X_k)=\mu\) 存在，则对任意 \(\varepsilon>0\)， \[ \lim_{n\to\infty}P\{|\bar X-\mu|<\varepsilon\}=1. \] 这条定理不要求方差存在。
辛钦 1929 年把方差整条要求拿掉了，剩下独立同分布与期望存在。方差真的不存在时结论会失效，柯西分布的样本均值就不往任何地方跑，\(n\) 取多大都一样散，画出来的直方图与单个观测一模一样。
图上每条细线是一个人的累积平均，横轴是次数 \(n\)，纵轴是当时的均值。粗线是其中一条，起步在 1 的上方很远，一两百次之后才被拽回来。带子的宽度从头到尾没变，一直在变的是路径落在带子里待住的比例，这就是「依概率」三个字的全部内容。
1867 年，圣彼得堡
《论平均值》里的那一步推广
「相互独立的量，只要它们的方差有上界，足够多个的平均就依概率任意接近各自的期望。」
切比雪夫《论平均值》，1867 年（俄文，此处为译述）
伯努利只对抛硬币这一种情形证过，切比雪夫把条件换成「独立、方差有界」，用的就是那个以他命名的不等式。他的学生马尔可夫与李雅普诺夫 1901 年沿矩的方法继续往上推，把同一套工具用到了和的正态逼近上。
切比雪夫大数律与辛钦大数律到底差在哪
差在换了条件。切比雪夫允许各个 \(X_k\) 分布不同，代价是要方差有界；辛钦要求同分布，换来的是连方差都不要。两条定理互不包含，遇到「独立同分布但方差无穷」的题只能用辛钦，遇到「不同分布但方差有界」的题只能用切比雪夫。
三、中心极限定理
大数律说了样本均值往 \(\mu\) 跑，没说跑的方式。偏差 \(\bar X-\mu\) 随 \(n\) 变大而变小，因为它的方差是 \(\sigma^2/n\)；把这个偏差乘上 \(\sqrt{n}\)，缩小的趋势刚好被抵消，得到的量既不趋于零也不发散，而是落在一个固定的分布上，并且这个分布与原来的总体无关。
定理（林德伯格-莱维中心极限定理）
设 \(X_1,X_2,\dots\) 独立同分布，\(E(X_k)=\mu\)，\(D(X_k)=\sigma^2>0\)，则对任意实数 \(x\)， \[ \lim_{n\to\infty}P\left\{\frac{\sum_{k=1}^{n}X_k-n\mu}{\sigma\sqrt{n}}\le x\right\}=\Phi(x), \] 其中 \(\Phi(x)\) 是标准正态分布的分布函数。
一句话概括：只要独立同分布、方差有限，和就近似正态，原来的分布长什么样都无所谓。用的时候通常写成三种样子之一，\(\sum_{k=1}^{n}X_k\) 近似服从 \(N(n\mu,n\sigma^2)\)，\(\bar X\) 近似服从 \(N(\mu,\sigma^2/n)\)，或者把式子标准化之后查表。三种写法是同一句话。
定理（棣莫弗-拉普拉斯中心极限定理）
设 \(X\sim B(n,p)\)，\(0<p<1\)，\(q=1-p\)，则对任意实数 \(x\)， \[ \lim_{n\to\infty}P\left\{\frac{X-np}{\sqrt{npq}}\le x\right\}=\Phi(x). \]
二项分布是 \(n\) 个 0-1 变量之和，把它代进林德伯格-莱维，就得到棣莫弗-拉普拉斯，所以后者是前者的特例。历史上的顺序反着走：棣莫弗 1733 年先对 \(p=1/2\) 算出这个逼近，拉普拉斯 1812 年推到一般的 \(p\)，一般的独立同分布情形又等了一百年才由林德伯格与莱维收口。
图里两行是两种总体，均匀与指数，一列是一个样本量。\(n=1\) 那两格一个是方方正正的矩形，一个是贴着左边、拖长尾巴的指数；\(n=5\) 时指数那格右边还留着一截偏斜，均匀那格已经像钟形；\(n=30\) 时两行几乎看不出差别。收敛的快慢取决于总体的偏度，指数分布偏得厉害，就要多攒一些样本。
「中心」这个词指的是什么
不指正态分布，也不指曲线对称。波利亚 1920 年写下这个题目时，说的是它在概率论里所占的位置：别的极限定理都围着它转，一列和的分布最终都落到这条定理上。俄文的书里常直接叫「极限定理」，名字不同，说的是同一件事。
1929 年，莫斯科
辛钦把方差这条要求拿掉
「独立同分布的随机变量，只要期望存在，样本均值就依概率收敛于期望。」
辛钦《大数律》，1929 年（俄文，此处为译述）
同一个年代的另一个方向走完了中心极限定理：林德伯格与莱维在 1920 年代给出和的分布收敛到正态的充要条件，1901 年那套矩方法退回充分条件的位置。课本里两条定理，一条讲平均值，一条讲偏差，源头都在这里。
大数律只说平均值往期望上靠，中心极限定理才说出偏离有多大、偏离按什么分布。前者不涉及分布，后者把分布指定成正态。
四、正态近似怎么用
二项概率难算在中间的阶乘：\(n=10\) 还能手算，\(n=1000\) 就得靠表。棣莫弗-拉普拉斯给了一条出路，把成功次数减掉期望、除以标准差，得到一个近似标准正态的量，剩下的查表就行。前提是 \(np\) 与 \(nq\) 都不能太小，否则正态曲线盖不住那排高低不平的柱子。
还有个细节常被漏掉：二项变量只取整数，正态是连续的。算 \(P\{X\ge18\}\) 时 18 那根柱子要整个算进去，分界应当划在 17.5，而不是 18，这一步叫连续性修正。改完以后误差从百分之一降到万分之六；分界本来就落在两根柱子中间时可以省，落在柱子正中间就必须补上这半个单位。
同一套式子反过来用，可以定样本量。要求样本均值与真值之差不超过 \(\delta\) 的把握达到 \(1-\alpha\)，先把 \(\bar X\) 当成正态，写出 \(P\{|\bar X-\mu|<\delta\}\approx 2\Phi\left(\delta\sqrt{n}/\sigma\right)-1\)，让它等于 \(1-\alpha\)，解出 \[ n\ge\left(\frac{z_{\alpha/2}\,\sigma}{\delta}\right)^2. \] 算出来多半不是整数，一律往上取：少了达不到把握，多了只是费钱。
多大的 n 才够用正态近似
没有统一数字，要看偏度。二项分布的经验口径是 \(np\) 与 \(nq\) 都不小于 5，有的书用 10；\(p=0.5\) 时 \(n=10\) 就挺像，\(p=0.02\) 时 \(n=100\) 也不行，因为 \(np\) 只有 2。样本均值取自偏态很重的总体，n 往往要上百。
怎么算
- 先认题。问「频率稳不稳」「平均靠不靠近」用大数律；问「求概率」「估样本量」用正态近似。
- 切比雪夫三步。写出 \(\mu\) 与 \(\sigma^2\)，定下 \(\varepsilon\)，代 \(\sigma^2/\varepsilon^2\)。要下界就用 \(1-\sigma^2/\varepsilon^2\)。
- 标准化。二项用 \((X-np)/\sqrt{npq}\)，样本均值用 \((\bar X-\mu)/(\sigma/\sqrt{n})\)，化成 \(\le\) 的形式再查表。
- 连续性修正。\(P\{X\ge k\}\) 用 \(k-0.5\)，\(P\{X\le k\}\) 用 \(k+0.5\)，区间两端各挪半个单位。
- 定样本量。先取 \(z_{0.025}=1.96\) 或 \(z_{0.005}=2.58\)，代入上式平方，结果向上取整。
例题
例 1 掷一枚均匀硬币 1000 次，用切比雪夫不等式估计频率与 0.5 相差不小于 0.05 的概率上界，并说明这个界有多松。
记正面次数为 \(n_A\sim B(1000,0.5)\)，频率的期望是 0.5，方差是 \(0.25/1000=0.00025\)。取 \(\varepsilon=0.05\)，上界 \(0.00025/0.0025=0.1\)。真实概率约 0.0016，界松了六十倍，换来的是完全没用到二项分布的形状。
例 2 设 \(X\sim B(100,0.4)\)，用正态近似求 \(P\{30\le X\le50\}\)。
\(np=40\)，\(npq=24\)，标准差 4.899。加连续性修正后区间是 \([29.5,50.5]\)，两端标准化得 \(\pm2.14\)，概率 \(2\Phi(2.14)-1=0.968\)。不做修正得 0.958，差了一个百分点，n 越小差得越多。
例 3 某总体标准差为 10，要求样本均值与总体均值之差小于 1 的概率不低于 0.95，样本量至少要多大。
\(z_{0.025}=1.96\)，由 \(n\ge(z\sigma/\delta)^2\) 得 \(n\ge(1.96\times10/1)^2=384.16\)，取 385。把握提到 0.99 时 \(z=2.58\)，\(n\ge666\)，要多抽七成。
习题
A 档 巩固定义与基本计算，每题五分钟内
1. 设 \(E(X)=5\)，\(D(X)=0.1\)，用切比雪夫不等式估计 \(P\{|X-5|\ge1\}\) 的上界。
看答案
取 \(\varepsilon=1\)，上界是 \(0.1/1=0.1\)，即跑偏超过 1 的概率不超过 0.1。
2. 设 \(E(X)=100\)，\(D(X)=100\)，用切比雪夫不等式估计 \(P\{80<X<120\}\) 的下界。
看答案
区间是 \(\mu\pm20\)，即 \(\varepsilon=20\)，下界 \(1-100/400=0.75\)。
3. 写出伯努利大数律的结论，并说明它跟「频率趋于概率」这句口语差在哪里。
看答案
结论是 \(P\{|n_A/n-p|<\varepsilon\}\to1\)。口语听起来像每个具体频率都收敛，数学上的说法只管概率：偏差超过 \(\varepsilon\) 的机会趋于零，单次试验的落点不受约束。
4. 设 \(X_1,\dots,X_{16}\) 独立同分布，都服从 \(U(0,1)\)，写出 \(\bar X\) 依概率收敛到的数，并给出 \(\bar X\) 的近似分布。
看答案
收敛到 \(\mu=1/2\)。方差是 \((1/12)/16=1/192\)，近似分布为 \(N(0.5,\,1/192)\)。
5. 设 \(X\sim B(200,0.3)\)，用正态近似求 \(P\{X\le70\}\)，加连续性修正。
看答案
\(np=60\)，\(npq=42\)，标准差 6.481。取 70.5，标准化得 1.62，概率 \(\Phi(1.62)=0.9474\)。
6. 判断下面三句话：大数律给出了 \(\bar X\) 的近似分布吗；中心极限定理要求同分布吗；棣莫弗-拉普拉斯定理是林德伯格-莱维的特例吗。
看答案
没有，大数律只说收敛到 \(\mu\)，不说形状；要求，林德伯格-莱维的条件里写着独立同分布；是，二项分布是 n 个 0-1 变量之和。
B 档 综合题，接近期末与考研难度
1. 设 \(D(X)=0\)，用切比雪夫不等式证明 \(P\{X=E(X)\}=1\)。
看答案
对任意 \(\varepsilon>0\)，\(P\{|X-\mu|\ge\varepsilon\}\le0/\varepsilon^2=0\)。取 \(\varepsilon=1/k\) 得 \(P\{|X-\mu|\ge1/k\}=0\)，把这些事件并起来，再用概率的可列可加性得 \(P\{X\ne\mu\}=0\)。
2. 某仪器独立测量 \(n\) 次，每次误差的期望为 0、方差为 0.01。用切比雪夫不等式求 \(n\)，使 \(P\{|\bar X|<0.05\}\ge0.9\)。
看答案
\(\bar X\) 的方差是 \(0.01/n\)，取 \(\varepsilon=0.05\)，下界 \(1-0.01/(0.0025n)=1-4/n\)。要它不小于 0.9，得 \(n\ge40\)。
3. 抛 10000 次、每次成功概率 0.2 的硬币，求成功次数落在 1960 与 2040 之间的概率近似值。
看答案
\(np=2000\)，\(\sqrt{npq}=40\)。修正后两端是 1959.5 与 2040.5，标准化得 \(\pm1.01\)，概率 \(2\Phi(1.01)-1=0.688\)。
4. 某批零件长度标准差为 0.5 mm，要求以 99% 的把握使样本均值与真值之差不超过 0.1 mm，样本量取多少。
看答案
\(z_{0.005}=2.58\)，\(n\ge(2.58\times0.5/0.1)^2=166.4\)，取 167。这里按正态近似算，样本量本身要够大才自洽。
C 档 拓展与历史原题
1.（伯努利，1713）伯努利大数律证明的是频率依概率收敛于概率。它与切比雪夫大数律是什么关系？
看答案
伯努利的情形是 0-1 变量之和，方差 \(p(1-p)\le1/4\) 有界，正好是切比雪夫大数律的特例。切比雪夫 1867 年把条件放宽到一般的独立变量，伯努利成了其中一格。
2.（切比雪夫，1867）切比雪夫大数律与辛钦大数律的条件有何不同，各举一个只能用其中一条的场合。
看答案
切比雪夫要方差有界但允许不同分布，辛钦要同分布但不要方差。只知道「独立、方差有界」时用切比雪夫；独立同分布而方差不存在时（如自由度 3 的 t 分布）只能用辛钦。
3.（棣莫弗-拉普拉斯）用这一定理估计：要让频率与 0.5 之差不超过 0.01 的概率达到 0.95，至少要抛多少次。
看答案
由 \(0.01\sqrt{n}/\sqrt{0.25}=1.96\) 解出 \(\sqrt{n}=98\)，\(n=9604\)。这就是报纸上「误差 1 个百分点」背后要的样本量。
思考题 不设标准答案，只给提示
1. 轮盘连出十次红，下一把出黑的概率会变大吗？用大数律解释。
看提示
大数律说的是比例整体趋近，不负责补偿前面欠下的次数。每一把的独立性没有变，黑红的概率还是各占一半。把「长期会扯平」读成「短期会补账」，是把极限当成了记忆。
2. 切比雪夫不等式给出的界松得离谱，课本为什么还要先讲它？
看提示
它不挑分布，是证明大数律的工具，只要方差存在就能用；换成真实分布去算，就得先知道分布是什么。两条路各管一段：证明靠它，计算靠正态近似。
3. 若总体是柯西分布，样本均值会怎样？中心极限定理为什么失效？
看提示
柯西分布的期望不存在，方差也是无穷。平均 \(n\) 个柯西变量得到的还是柯西分布，没有变窄，因此既不依概率收敛到某个数，也谈不上正态逼近。
延伸阅读
- 浙江大学《概率论与数理统计》第四版，第五章。本章的定理口径与例题难度以这本为准。
- 切比雪夫《论平均值》（1867），收于《切比雪夫全集》第二卷；俄文原题 О средних величинах。
- 王梓坤《概率论基础及其应用》，大数定律与中心极限定理两章，例子比课本多。
- Gnedenko 与 Kolmogorov，Limit Distributions for Sums of Independent Random Variables，1954；林德伯格-莱维条件的完整讨论在第二章。