「掷一枚硬币,正面朝上的概率是二分之一」这句话在课本第一页就出现了,可它凭什么成立,三百多年里没有统一的交代。古典定义要数得清、还要各结果同等可能,统计定义要把试验重复很多次,也说不清重复多少才算够。1933 年柯尔莫哥洛夫换了一条路:先规定概率必须满足哪几条,别的全靠推。
一、为什么还需要一套公理
17 世纪的人算概率只有一招:数数。把试验的全部结果列出来,有利结果的个数除以结果总数,比值就是概率,袋里 5 个红球 3 个白球,摸到红球的概率是 \(5/8\)。这条公式好用在两处:结果个数有限,各个结果又被默认机会相同。麻烦也长在这两处,骰子是否匀称要靠经验保证,结果一旦多到数不清,这套数法连分母都写不出来。
另一条路是不数结果,改成反复做。同一试验做 \(n\) 次,记事件 \(A\) 出现 \(n_A\) 次,比值 \(f_n(A)=n_A/n\) 叫频率;经验上 \(n\) 越大这个比值越稳,于是有人主张把稳定下来的那个数直接当作概率。射击命中率、新生儿性别比这类场合,它确实给出了能用的数。可是「\(n\) 足够大」是多大、稳到哪个值都没标准,频率趋于极限这件事当时也没人证明,它本身就是后来大数定律要说的结论。
第三类题目两边都进不去。往长度是 1 的线段上随便投一个点,落在左半段的概率是 \(1/2\),理由只有一条:左半段占整条线段的二分之一。这里的结果不可数,数不出个数,答案却显然存在,而且是量长度量出来的。
三套说法各能算一批题,凑在一起却拼不出同一个对象:一个说概率是比值,一个说概率是极限,一个说概率是长度之比。数学家后来换了个要求,先把概率当成一个函数定下来,输入是事件,输出是 0 与 1 之间的实数,再规定它必须满足几条规则,然后证明老公式都能从这几条推出来。
概率是这样一个函数:进去一个事件,出来一个 0 到 1 之间的数;互不相交的事件,函数值可以相加。
二、样本空间与事件域
掷一颗骰子,全部可能结果是 1 到 6 这六个数,把它们收成一个集合 \(S=\{1,2,3,4,5,6\}\),这个集合叫样本空间,其中每个结果叫样本点,记作 \(\omega\)。样本空间的子集叫事件,「点数是偶数」就是子集 \(\{2,4,6\}\),结果落进某个子集,就说相应的事件发生了。
把事件当集合看,事件之间的关系直接翻译成集合的关系:\(A\subset B\) 说明 \(A\) 发生则 \(B\) 一定发生,\(A\cup B\) 表示至少一个发生,\(AB\) 表示两个都发生,\(\overline{A}\) 表示 \(A\) 不发生。集合的运算律因此可以整段搬过来,德摩根律在概率里照样能用。
定义(样本空间与事件)
随机试验的全部可能结果组成的集合叫样本空间,记作 \(S\);\(S\) 的元素叫样本点;\(S\) 的子集叫随机事件,简称事件。只含一个样本点的事件叫基本事件,\(S\) 叫必然事件,空集 \(\varnothing\) 叫不可能事件。
接下来要处理一个容易被跳过的问题:是不是每个子集都能配上概率。有限样本空间里当然可以,\(S\) 有几个子集就配几个数。样本空间一旦变成不可数集就麻烦了,线段上有些子集没法在保持「不交的两块长度相加」的同时被赋予长度,维塔利在 20 世纪初给出了例子。
课本的办法是退半步,只挑一部分子集组成一个族 \(\mathcal{F}\),事先规定 \(\mathcal{F}\) 对取补和可列并封闭。这样挑出来的 \(\mathcal{F}\) 叫事件域,只有里面的集合才叫事件,概率只对这些事件有定义。挑选的规矩写成三条:
定义(事件域)
设 \(S\) 是样本空间,\(\mathcal{F}\) 是由 \(S\) 的一些子集组成的族。若 \(\mathcal{F}\) 满足:一、\(S\in\mathcal{F}\);二、若 \(A\in\mathcal{F}\),则 \(\overline{A}\in\mathcal{F}\);三、若 \(A_1,A_2,\dots\in\mathcal{F}\),则 \(\bigcup_{i=1}^{\infty}A_i\in\mathcal{F}\),则称 \(\mathcal{F}\) 为事件域,\(\mathcal{F}\) 中的集合称为事件。
三条合起来保证 \(\mathcal{F}\) 是个封闭的运算系统:\(S\) 在里面,\(\varnothing\) 就在里面;\(A\)、\(B\) 在里面,\(AB\) 也在里面,各自取补、并起来、再取补;差集同理。不论怎么并、怎么交、怎么减,结果都留在 \(\mathcal{F}\) 内,可以接着谈概率。
三、三条公理
事件域准备好之后,概率就是 \(\mathcal{F}\) 上的一个函数 \(P\):给每个集合 \(A\) 配一个实数 \(P(A)\)。函数可以随便配,要挑出合乎常理的,得先规定条件。柯尔莫哥洛夫只留了三条。
定义(概率的公理化定义)
设 \(\mathcal{F}\) 是样本空间 \(S\) 的事件域,若对每个 \(A\in\mathcal{F}\) 指定一个实数 \(P(A)\),且满足:一、非负性 \(P(A)\ge0\);二、归一性 \(P(S)=1\);三、可数可加性,即对两两互不相容的事件 \(A_1,A_2,\dots\)(\(i\ne j\) 时 \(A_iA_j=\varnothing\))有 \[ P\left(\bigcup_{i=1}^{\infty}A_i\right)=\sum_{i=1}^{\infty}P(A_i), \] 则称 \(P(A)\) 为事件 \(A\) 的概率,称 \((S,\mathcal{F},P)\) 为概率空间。
三条各管一件事。非负性定下方向,概率不会是负数;归一性给整块样本空间选了个单位,面积本可以是 100,说成 1 之后别的数都跟着定;可数可加性管拆分,互不相交的几块合起来,概率等于各块相加。前两条是标尺,干活的是第三条,它把有限次加法与无穷次求和接上。
三条公理在图上都好认。把 \(S\) 画成矩形,事件画成里面的区域,概率就是面积:不为负是第一条,整块算 1 是第二条,\(A\) 与 \(B\) 不重叠时两块相加是第三条。
第三条里的「可数」两个字是划出来的界限。只要求有限多块能相加,可列无穷多块就没了规矩;要求任意多块都能相加,连均匀分布都会被逼出矛盾。1909 年博雷尔讨论可列个事件时把这条单独提出来,此后它一直是三条里最有用也最难的一条。
可数可加和有限可加差在哪里
有限可加只管任意有限多块,取极限这一步是空的。可数可加多出来的正是极限:把 \(A_1\cup\dots\cup A_n\) 看成一串逼近 \(\bigcup A_i\) 的事件,可数可加性保证两边的概率也这样逼近。概率的连续性、分布函数的右连续、大数定律的证明,都要在这一步上过桥。
1900 年,巴黎
希尔伯特把这件事写进了问题清单
「用公理方法处理那些至今仍以物理为主体的理论,首先是概率论与力学。」
希尔伯特《数学问题》第六问题,1900 年巴黎国际数学家大会讲演,此处为译述
清单上只写了要求,没给做法。此后博雷尔把测度搬进概率,芬尼蒂在 1930 年前后从有限可加另立一套,路走得并不统一,谁先给出完整体系一直悬着。
四、从公理推出的六条性质
公理只有三条,课本的公式却有一串。这些公式都能推出来,推法通常只有一招:把要算的事件拆成互不相交的几块,用可数可加性合起来,再用归一性收尾。
定理(由公理推出的六条性质)
设 \(P\) 是概率空间 \((S,\mathcal{F},P)\) 上的概率,则:一、\(P(\varnothing)=0\);二、有限可加性,\(A_1,\dots,A_n\) 两两互不相容时 \(P(A_1\cup\dots\cup A_n)=\sum_{i=1}^{n}P(A_i)\);三、减法公式 \(P(A-B)=P(A)-P(AB)\);四、单调性,若 \(A\subset B\) 则 \(P(B-A)=P(B)-P(A)\),且 \(P(A)\le P(B)\);五、加法公式 \(P(A\cup B)=P(A)+P(B)-P(AB)\);六、\(P(\overline{A})=1-P(A)\)。
第一条用可数可加性硬推。把 \(\varnothing\) 写成 \(\varnothing\cup\varnothing\cup\cdots\),这些块两两不交,于是 \(P(\varnothing)=P(\varnothing)+P(\varnothing)+\cdots\),一个非负数等于自己的无穷倍,只能取 0。第二条在 \(A_1\cup\dots\cup A_n\) 后面补无穷多个 \(\varnothing\) 化成可列并,再用第一条把补出来的消掉。
减法公式与单调性来自同一个拆分。\(A\) 分成 \(A-B\) 与 \(AB\) 两块,两块不交,所以 \(P(A)=P(A-B)+P(AB)\);若 \(A\subset B\),\(B\) 也能拆成 \(A\) 与 \(B-A\),得 \(P(B)=P(A)+P(B-A)\)。非负性顺手给出 \(P(A)\le P(B)\),事件越大,概率不会变小。
加法公式修的是重复计数。\(A\cup B\) 拆成 \(A-B\) 与 \(B\),于是 \(P(A\cup B)=P(A)+P(B)-P(AB)\),被算了两次的 \(AB\) 减掉一次。三个事件的情形要多减两两相交、再加回三者都发生的部分。
定理(加法公式的三事件形式)
\[ P(A\cup B\cup C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC). \]
第六条最常用。\(A\) 与 \(\overline{A}\) 不交,合起来正好是 \(S\),所以 \(1=P(S)=P(A)+P(\overline{A})\),移项得 \(P(\overline{A})=1-P(A)\)。
1933 年,柏林
一本六十多页的小册子
「本书的目的是为概率论建立一个公理基础。」
柯尔莫哥洛夫《概率论基本概念》序言,1933 年,施普林格,此处为译述
书里把样本空间、事件域、三条公理摆在一页,随后条件概率、独立性、大数定律依次推出,测度论第一次被完整搬进概率。「概率空间」从此成了标准写法,本章往后所有公式都从这三条出发。
五、几何概型
公理只管形状,不管内容。样本空间取成区间、区域或立体,事件取成能求长度、面积、体积的子集,三条公理照样成立,只是「等可能」要换一种说法:机会只与这块地方的度量有关,与位置和形状无关。
定义(几何概型)
设样本空间是区域 \(G\)(区间、平面区域或空间立体),\(m(G)\) 是它的度量(长度、面积或体积),\(0 \lt m(G) \lt \infty\)。若随机点落在 \(G\) 内任一可度量子区域的机会只与该子区域的度量成正比,则称为几何概型,事件 \(A\)(对应子区域 \(G_A\))的概率为 \[ P(A)=\frac{m(G_A)}{m(G)}. \]
公式不是凭空给的。既然机会只与度量成正比,先写 \(P(A)=k\,m(G_A)\);归一性要求 \(P(G)=k\,m(G)=1\),于是 \(k=1/m(G)\)。三条公理在这里自动成立:度量不为负,整块化成 1,不交的块相加。几何概型省掉的是数个数,留下的是量长度。
1777 年布丰提出的投针题把这套做法演了一遍。平面上画一排间距为 \(a\) 的平行线,投一根长 \(l \lt a\) 的针,问它与线相交的概率。一次投掷由两个数决定:针心到最近一条线的距离 \(x\in[0,a/2]\),与平行线的夹角 \(\theta\in[0,\pi]\)。每个结果就是 \((\theta,x)\) 矩形里的一个点,面积 \(\pi a/2\)。
相交的条件是 \(x\le\frac{l}{2}\sin\theta\),在图上就是曲线以下那块,面积是 \(\int_0^{\pi}\frac{l}{2}\sin\theta\,\mathrm{d}\theta=l\),两者相除得 \[ P=\frac{l}{\pi a/2}=\frac{2l}{\pi a}. \] 取 \(l=1\)、\(a=2\) 得 \(1/\pi\approx0.318\)。
会面问题是同一个套路。两人约定在 0 到 60 分钟内到某地,谁先到就等对方 15 分钟,等不到就走。把到达时刻记成 \((x,y)\),样本空间是边长 60 的正方形,能碰面的条件 \(|x-y|\le15\) 是一条宽度 15 的对角带。正方形面积 3600,两个空白三角形各占 \(45\times45/2\),带子 1575,概率 \(7/16\)。
几何概型里有一个容易犯的错。结果有不可数无穷多个,每个单点概率都是 0,可这不等于它不可能发生:针心恰好落在某条给定直线上的概率是 0,它照样可能发生。古典概型里这两件事是一回事,连续情形下就分开了。
几何概型里的「等可能」指的是什么
指度量相等的地方机会相同,不是每个点等可能。线段上每个点长度都是 0,按「点等可能」理解,任何区间都该得 0,与整段概率为 1 相矛盾。正确的说法是区间越长,点落进去的机会越大,比例就是长度之比。
同一个「随机」,为什么能算出三个答案
在圆内随机取一条弦,问弦长超过内接正三角形边长的概率,三种取法分别得 \(1/3\)、\(1/2\)、\(1/4\),都讲得通,这就是贝特朗悖论。分歧出在没说清哪个量均匀:中点、方向、端点,三种均匀是三个样本空间。用几何概型之前必须指定样本空间与度量。
怎么算
- 先认模型。结果数得清且等可能,走古典概型数个数;样本空间是区间或区域,走几何概型量长度面积;两者都不像,回到三条公理硬推。
- 拆开再相加。算不出来的事件,拆成互不相交的几块分别算,这是公理唯一提供的加法工具。
- 反过来算。见到「至少有一个」,先算它的对立事件,再用 1 去减。
- 加法公式要减重。两个事件相加减掉交集,三个事件减两两交集再加回三重交集。
- 几何概型先画图。把两个变量摆成平面坐标,事件画成区域,最后算面积之比,别去数点。
例题
例 1 设 \(P(A)=0.5\),\(P(B)=0.4\),\(P(A\cup B)=0.7\),求 \(P(AB)\)、\(P(A-B)\)、\(P(\overline{A}\,\overline{B})\)。
由加法公式 \(P(AB)=0.5+0.4-0.7=0.2\);由减法公式 \(P(A-B)=P(A)-P(AB)=0.3\);\(\overline{A}\,\overline{B}\) 是 \(A\cup B\) 的对立事件,故 \(P(\overline{A}\,\overline{B})=1-0.7=0.3\)。
例 2 甲、乙两人在 8:00 至 9:00 之间各自随机到达某地,先到者等 20 分钟,等不到就走。求两人见面的概率。
样本空间是边长 60 的正方形,见面条件是 \(|x-y|\le20\)。扣除两个边长 40 的直角三角形,面积 \(3600-2\times\frac{40\times40}{2}=2000\),概率 \(2000/3600=5/9\approx0.556\)。
例 3 平面上每隔 1 画一条平行线,投一根长 1 的针。求针与线相交的概率,并估计投 3000 次大约相交多少次。
这是 \(l=1\)、\(a=1\) 的布丰投针,\(P=\dfrac{2l}{\pi a}=\dfrac{2}{\pi}\approx0.637\)。相交次数约为 \(3000\times0.637\approx1910\) 次,反过来用这个频率可以估出 \(\pi\approx2/0.637\approx3.14\)。
习题
A 档 巩固定义与基本计算,每题五分钟内
1. 写出掷两枚硬币的样本空间,并用集合写出事件「至少出现一次正面」。
看答案
\(S=\{\text{正正},\text{正反},\text{反正},\text{反反}\}\),所求事件是 \(\{\text{正正},\text{正反},\text{反正}\}\)。
2. 设 \(P(A)=0.4\),\(P(B)=0.3\),\(A\) 与 \(B\) 互不相容,求 \(P(A\cup B)\)、\(P(\overline{A})\)、\(P(\overline{A}\,\overline{B})\)。
看答案
互不相容时 \(P(A\cup B)=0.7\);\(P(\overline{A})=1-0.4=0.6\);\(\overline{A}\,\overline{B}\) 是 \(A\cup B\) 的对立事件,得 \(1-0.7=0.3\)。
3. 设 \(P(A)=P(B)=P(C)=1/4\),\(P(AB)=0\),\(P(AC)=P(BC)=1/8\),求 \(P(A\cup B\cup C)\)。
看答案
用三事件加法公式:\(3/4-(0+1/8+1/8)+P(ABC)\),而 \(ABC\subset AB\) 且 \(P(AB)=0\),所以 \(P(ABC)=0\),答案为 \(1/2\)。
4. 用三条公理证明 \(P(A\cup B)\le P(A)+P(B)\)。
看答案
由加法公式 \(P(A\cup B)=P(A)+P(B)-P(AB)\),非负性给出 \(P(AB)\ge0\),移项即得。等号成立当且仅当 \(P(AB)=0\)。
5. 一条线段长 3,随机投一点,求它落在距左端 1 到 2 之间的概率。
看答案
这一段长 1,样本空间长 3,由长度之比得 \(1/3\)。
6. 在区间 \([0,1]\) 上随机取一点,求它落在 \([0.2,0.7]\) 内的概率。
看答案
区间长 \(0.5\),样本空间长 1,概率 \(0.5\)。落在端点的情形长度为零,不影响答案。
B 档 综合题,接近期末与考研难度
1. 设 \(P(A)=P(B)=1\),证明 \(P(AB)=1\)。
看答案
由加法公式 \(P(A\cup B)=1+1-P(AB)\le1\),得 \(P(AB)\ge1\);概率不会超过 1,故 \(P(AB)=1\)。
2. 甲、乙在 0 到 60 分钟内各自随机到达,先到者等 15 分钟。求甲比乙晚到且两人见面的概率。
看答案
见面带面积 1575,其中 \(x \gt y\) 的一半是 787.5,概率 \(787.5/3600=7/32\)。对角带被对角线平分成两半。
3. 在半径 \(R\) 的圆内随机取一点,求它到圆心距离小于 \(R/2\) 的概率;距离恰好等于 \(R/2\) 的概率是多少。
看答案
小圆面积 \(\pi R^2/4\),与大圆 \(\pi R^2\) 之比为 \(1/4\)。圆周面积为 0,所以距离恰为 \(R/2\) 的概率是 0。
4. 布丰投针中取 \(l=2\)、\(a=4\),求相交概率;若希望概率等于 \(1/2\),针长应取多少。
看答案
\(P=\dfrac{2l}{\pi a}=\dfrac{4}{4\pi}=\dfrac{1}{\pi}\approx0.318\)。令 \(\dfrac{2l}{4\pi}=\dfrac12\) 得 \(l=\pi\approx3.14\),小于间距 4,可行。
C 档 拓展与历史原题
1.(柯尔莫哥洛夫,1933)他的体系把概率定义成事件域上的非负集函数,并要求 \(P(S)=1\)。为什么可加性只要求对可列多个事件成立,不要求对任意多个成立?
看答案
任意多个的和没有定义,取极限也无从谈起,可列个已经够推连续性、分布函数和大数定律。若真对任意多个都要求相加,均匀分布这类最基本的概率会立刻出矛盾,界限只能划在可数。
2.(博雷尔,1909)设样本空间是全体正整数,规定有限集的概率为 0、余有限集的概率为 1。说明它有限可加,却不满足可数可加。
看答案
有限可加成立,因为有限个有限集的并仍是有限集。但全体正整数是可列个单点之并,每个单点概率为 0,可数可加会给出总和 0,与 \(P(S)=1\) 矛盾。
3.(几何概型)会面问题里把 60 分钟改成 90 分钟、等待时间仍是 15 分钟,概率变成多少?再用投针估计 \(\pi\):投 5000 次相交 1592 次,\(l=1\)、\(a=2\),\(\pi\) 的估计值是多少?
看答案
概率为 \(1-(75/90)^2=1-25/36=11/36\approx0.306\)。由 \(P=1/\pi\) 得 \(\pi\approx5000/1592\approx3.141\)。
思考题 不设标准答案,只给提示
1. 古典定义、统计定义、公理化定义说的都是「概率」,它们是同一个东西吗?
看提示
古典定义是一个模型,只在有限且等可能时能用;统计定义是用频率去估,结果随试验而变;公理化定义是对函数的刻画,前两者分别是它的特例与近似。三者回答的问题不同,别混着用。
2. \(P(A)=0\) 能不能推出 \(A\) 一定不发生?
看提示
只在有限等可能模型里能。连续情形下单个点概率为 0,却照样可能被取到;反过来 \(P(A)=1\) 也不保证 \(A\) 必然发生。概率为零与不可能,在不可数样本空间里是两件事。
3. 可数可加性里「两两互不相容」这个条件能不能去掉?
看提示
不能。\(A\) 与 \(B\) 相交时 \(P(A\cup B)=P(A)+P(B)\) 会把公共部分算两次,正确的式子是加法公式。若允许相交还照加,把 \(S\) 拆成两个 \(S\),会得出 \(1=2\)。
延伸阅读
- 盛骤、谢式千、潘承毅《概率论与数理统计》第四版,第一章 §1 至 §4。本章记号与例题口径以此为准。
- 柯尔莫哥洛夫《概率论基本概念》(Grundbegriffe der Wahrscheinlichkeitsrechnung),1933 年,第一章。三条公理的原始写法,六十多页,能读完。
- 博雷尔《可列概率及其算术应用》,1909 年。可数可加性被单独提出的那一篇。
- 希尔伯特《数学问题》,1900 年巴黎讲演,第六问题。看它要求了什么,也看它没说什么。