第五章1900 年至 1933 年

1933:柯尔莫哥洛夫的公理

「掷一枚硬币,正面朝上的概率是二分之一」,这句话在课本第一页就出现了,可它凭什么成立,三百多年里没有一套统一的交代。古典定义要先数得清、再假定各结果同等可能,统计定义要把试验重复很多次还说不清重复多少才算够。这一章讲柯尔莫哥洛夫换的那条路,以及样本空间、事件域、三条公理、六条性质和几何概型。

本章知识点样本空间与事件域、概率的三条公理、由公理推出的六条性质、几何概型
历史坐标希尔伯特 1900 年,博雷尔 1909 年,柯尔莫哥洛夫 1933 年
对应教材浙大《概率论与数理统计》第四版 第一章 §1 至 §4
前置集合的运算、古典概型、定积分求面积

「掷一枚硬币,正面朝上的概率是二分之一」这句话在课本第一页就出现了,可它凭什么成立,三百多年里没有统一的交代。古典定义要数得清、还要各结果同等可能,统计定义要把试验重复很多次,也说不清重复多少才算够。1933 年柯尔莫哥洛夫换了一条路:先规定概率必须满足哪几条,别的全靠推。

一、为什么还需要一套公理

17 世纪的人算概率只有一招:数数。把试验的全部结果列出来,有利结果的个数除以结果总数,比值就是概率,袋里 5 个红球 3 个白球,摸到红球的概率是 \(5/8\)。这条公式好用在两处:结果个数有限,各个结果又被默认机会相同。麻烦也长在这两处,骰子是否匀称要靠经验保证,结果一旦多到数不清,这套数法连分母都写不出来。

另一条路是不数结果,改成反复做。同一试验做 \(n\) 次,记事件 \(A\) 出现 \(n_A\) 次,比值 \(f_n(A)=n_A/n\) 叫频率;经验上 \(n\) 越大这个比值越稳,于是有人主张把稳定下来的那个数直接当作概率。射击命中率、新生儿性别比这类场合,它确实给出了能用的数。可是「\(n\) 足够大」是多大、稳到哪个值都没标准,频率趋于极限这件事当时也没人证明,它本身就是后来大数定律要说的结论。

第三类题目两边都进不去。往长度是 1 的线段上随便投一个点,落在左半段的概率是 \(1/2\),理由只有一条:左半段占整条线段的二分之一。这里的结果不可数,数不出个数,答案却显然存在,而且是量长度量出来的。

三套说法各能算一批题,凑在一起却拼不出同一个对象:一个说概率是比值,一个说概率是极限,一个说概率是长度之比。数学家后来换了个要求,先把概率当成一个函数定下来,输入是事件,输出是 0 与 1 之间的实数,再规定它必须满足几条规则,然后证明老公式都能从这几条推出来。

概率是这样一个函数:进去一个事件,出来一个 0 到 1 之间的数;互不相交的事件,函数值可以相加。

二、样本空间与事件域

掷一颗骰子,全部可能结果是 1 到 6 这六个数,把它们收成一个集合 \(S=\{1,2,3,4,5,6\}\),这个集合叫样本空间,其中每个结果叫样本点,记作 \(\omega\)。样本空间的子集叫事件,「点数是偶数」就是子集 \(\{2,4,6\}\),结果落进某个子集,就说相应的事件发生了。

把事件当集合看,事件之间的关系直接翻译成集合的关系:\(A\subset B\) 说明 \(A\) 发生则 \(B\) 一定发生,\(A\cup B\) 表示至少一个发生,\(AB\) 表示两个都发生,\(\overline{A}\) 表示 \(A\) 不发生。集合的运算律因此可以整段搬过来,德摩根律在概率里照样能用。

定义(样本空间与事件)

随机试验的全部可能结果组成的集合叫样本空间,记作 \(S\);\(S\) 的元素叫样本点;\(S\) 的子集叫随机事件,简称事件。只含一个样本点的事件叫基本事件,\(S\) 叫必然事件,空集 \(\varnothing\) 叫不可能事件。

接下来要处理一个容易被跳过的问题:是不是每个子集都能配上概率。有限样本空间里当然可以,\(S\) 有几个子集就配几个数。样本空间一旦变成不可数集就麻烦了,线段上有些子集没法在保持「不交的两块长度相加」的同时被赋予长度,维塔利在 20 世纪初给出了例子。

课本的办法是退半步,只挑一部分子集组成一个族 \(\mathcal{F}\),事先规定 \(\mathcal{F}\) 对取补和可列并封闭。这样挑出来的 \(\mathcal{F}\) 叫事件域,只有里面的集合才叫事件,概率只对这些事件有定义。挑选的规矩写成三条:

定义(事件域)

设 \(S\) 是样本空间,\(\mathcal{F}\) 是由 \(S\) 的一些子集组成的族。若 \(\mathcal{F}\) 满足:一、\(S\in\mathcal{F}\);二、若 \(A\in\mathcal{F}\),则 \(\overline{A}\in\mathcal{F}\);三、若 \(A_1,A_2,\dots\in\mathcal{F}\),则 \(\bigcup_{i=1}^{\infty}A_i\in\mathcal{F}\),则称 \(\mathcal{F}\) 为事件域,\(\mathcal{F}\) 中的集合称为事件。

三条合起来保证 \(\mathcal{F}\) 是个封闭的运算系统:\(S\) 在里面,\(\varnothing\) 就在里面;\(A\)、\(B\) 在里面,\(AB\) 也在里面,各自取补、并起来、再取补;差集同理。不论怎么并、怎么交、怎么减,结果都留在 \(\mathcal{F}\) 内,可以接着谈概率。

三、三条公理

事件域准备好之后,概率就是 \(\mathcal{F}\) 上的一个函数 \(P\):给每个集合 \(A\) 配一个实数 \(P(A)\)。函数可以随便配,要挑出合乎常理的,得先规定条件。柯尔莫哥洛夫只留了三条。

定义(概率的公理化定义)

设 \(\mathcal{F}\) 是样本空间 \(S\) 的事件域,若对每个 \(A\in\mathcal{F}\) 指定一个实数 \(P(A)\),且满足:一、非负性 \(P(A)\ge0\);二、归一性 \(P(S)=1\);三、可数可加性,即对两两互不相容的事件 \(A_1,A_2,\dots\)(\(i\ne j\) 时 \(A_iA_j=\varnothing\))有 \[ P\left(\bigcup_{i=1}^{\infty}A_i\right)=\sum_{i=1}^{\infty}P(A_i), \] 则称 \(P(A)\) 为事件 \(A\) 的概率,称 \((S,\mathcal{F},P)\) 为概率空间。

三条各管一件事。非负性定下方向,概率不会是负数;归一性给整块样本空间选了个单位,面积本可以是 100,说成 1 之后别的数都跟着定;可数可加性管拆分,互不相交的几块合起来,概率等于各块相加。前两条是标尺,干活的是第三条,它把有限次加法与无穷次求和接上。

三条公理在图上都好认。把 \(S\) 画成矩形,事件画成里面的区域,概率就是面积:不为负是第一条,整块算 1 是第二条,\(A\) 与 \(B\) 不重叠时两块相加是第三条。

概率就是面积。三条公理在这张图上各自对应一句话:不为负、整块算 1、不交的块相加。后面所有性质都从这三句推。

第三条里的「可数」两个字是划出来的界限。只要求有限多块能相加,可列无穷多块就没了规矩;要求任意多块都能相加,连均匀分布都会被逼出矛盾。1909 年博雷尔讨论可列个事件时把这条单独提出来,此后它一直是三条里最有用也最难的一条。

可数可加和有限可加差在哪里

有限可加只管任意有限多块,取极限这一步是空的。可数可加多出来的正是极限:把 \(A_1\cup\dots\cup A_n\) 看成一串逼近 \(\bigcup A_i\) 的事件,可数可加性保证两边的概率也这样逼近。概率的连续性、分布函数的右连续、大数定律的证明,都要在这一步上过桥。

1900 年,巴黎

希尔伯特把这件事写进了问题清单

「用公理方法处理那些至今仍以物理为主体的理论,首先是概率论与力学。」

希尔伯特《数学问题》第六问题,1900 年巴黎国际数学家大会讲演,此处为译述

清单上只写了要求,没给做法。此后博雷尔把测度搬进概率,芬尼蒂在 1930 年前后从有限可加另立一套,路走得并不统一,谁先给出完整体系一直悬着。

四、从公理推出的六条性质

公理只有三条,课本的公式却有一串。这些公式都能推出来,推法通常只有一招:把要算的事件拆成互不相交的几块,用可数可加性合起来,再用归一性收尾。

定理(由公理推出的六条性质)

设 \(P\) 是概率空间 \((S,\mathcal{F},P)\) 上的概率,则:一、\(P(\varnothing)=0\);二、有限可加性,\(A_1,\dots,A_n\) 两两互不相容时 \(P(A_1\cup\dots\cup A_n)=\sum_{i=1}^{n}P(A_i)\);三、减法公式 \(P(A-B)=P(A)-P(AB)\);四、单调性,若 \(A\subset B\) 则 \(P(B-A)=P(B)-P(A)\),且 \(P(A)\le P(B)\);五、加法公式 \(P(A\cup B)=P(A)+P(B)-P(AB)\);六、\(P(\overline{A})=1-P(A)\)。

第一条用可数可加性硬推。把 \(\varnothing\) 写成 \(\varnothing\cup\varnothing\cup\cdots\),这些块两两不交,于是 \(P(\varnothing)=P(\varnothing)+P(\varnothing)+\cdots\),一个非负数等于自己的无穷倍,只能取 0。第二条在 \(A_1\cup\dots\cup A_n\) 后面补无穷多个 \(\varnothing\) 化成可列并,再用第一条把补出来的消掉。

减法公式与单调性来自同一个拆分。\(A\) 分成 \(A-B\) 与 \(AB\) 两块,两块不交,所以 \(P(A)=P(A-B)+P(AB)\);若 \(A\subset B\),\(B\) 也能拆成 \(A\) 与 \(B-A\),得 \(P(B)=P(A)+P(B-A)\)。非负性顺手给出 \(P(A)\le P(B)\),事件越大,概率不会变小。

加法公式修的是重复计数。\(A\cup B\) 拆成 \(A-B\) 与 \(B\),于是 \(P(A\cup B)=P(A)+P(B)-P(AB)\),被算了两次的 \(AB\) 减掉一次。三个事件的情形要多减两两相交、再加回三者都发生的部分。

定理(加法公式的三事件形式)

\[ P(A\cup B\cup C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC). \]

第六条最常用。\(A\) 与 \(\overline{A}\) 不交,合起来正好是 \(S\),所以 \(1=P(S)=P(A)+P(\overline{A})\),移项得 \(P(\overline{A})=1-P(A)\)。

1933 年,柏林

一本六十多页的小册子

「本书的目的是为概率论建立一个公理基础。」

柯尔莫哥洛夫《概率论基本概念》序言,1933 年,施普林格,此处为译述

书里把样本空间、事件域、三条公理摆在一页,随后条件概率、独立性、大数定律依次推出,测度论第一次被完整搬进概率。「概率空间」从此成了标准写法,本章往后所有公式都从这三条出发。

五、几何概型

公理只管形状,不管内容。样本空间取成区间、区域或立体,事件取成能求长度、面积、体积的子集,三条公理照样成立,只是「等可能」要换一种说法:机会只与这块地方的度量有关,与位置和形状无关。

定义(几何概型)

设样本空间是区域 \(G\)(区间、平面区域或空间立体),\(m(G)\) 是它的度量(长度、面积或体积),\(0 \lt m(G) \lt \infty\)。若随机点落在 \(G\) 内任一可度量子区域的机会只与该子区域的度量成正比,则称为几何概型,事件 \(A\)(对应子区域 \(G_A\))的概率为 \[ P(A)=\frac{m(G_A)}{m(G)}. \]

公式不是凭空给的。既然机会只与度量成正比,先写 \(P(A)=k\,m(G_A)\);归一性要求 \(P(G)=k\,m(G)=1\),于是 \(k=1/m(G)\)。三条公理在这里自动成立:度量不为负,整块化成 1,不交的块相加。几何概型省掉的是数个数,留下的是量长度。

一次投针就是矩形里的一个点。横轴是夹角,纵轴是针心到线的距离,曲线以下才相交。面积之比 \(1/\pi\) 就是答案。

1777 年布丰提出的投针题把这套做法演了一遍。平面上画一排间距为 \(a\) 的平行线,投一根长 \(l \lt a\) 的针,问它与线相交的概率。一次投掷由两个数决定:针心到最近一条线的距离 \(x\in[0,a/2]\),与平行线的夹角 \(\theta\in[0,\pi]\)。每个结果就是 \((\theta,x)\) 矩形里的一个点,面积 \(\pi a/2\)。

相交的条件是 \(x\le\frac{l}{2}\sin\theta\),在图上就是曲线以下那块,面积是 \(\int_0^{\pi}\frac{l}{2}\sin\theta\,\mathrm{d}\theta=l\),两者相除得 \[ P=\frac{l}{\pi a/2}=\frac{2l}{\pi a}. \] 取 \(l=1\)、\(a=2\) 得 \(1/\pi\approx0.318\)。

能见面的一块是条对角带。正方形的边长是 60 分钟,带的宽度是 15 分钟,两块空白三角形就是等太久的情形。面积比 \(7/16\) 落到概率上。

会面问题是同一个套路。两人约定在 0 到 60 分钟内到某地,谁先到就等对方 15 分钟,等不到就走。把到达时刻记成 \((x,y)\),样本空间是边长 60 的正方形,能碰面的条件 \(|x-y|\le15\) 是一条宽度 15 的对角带。正方形面积 3600,两个空白三角形各占 \(45\times45/2\),带子 1575,概率 \(7/16\)。

几何概型里有一个容易犯的错。结果有不可数无穷多个,每个单点概率都是 0,可这不等于它不可能发生:针心恰好落在某条给定直线上的概率是 0,它照样可能发生。古典概型里这两件事是一回事,连续情形下就分开了。

几何概型里的「等可能」指的是什么

指度量相等的地方机会相同,不是每个点等可能。线段上每个点长度都是 0,按「点等可能」理解,任何区间都该得 0,与整段概率为 1 相矛盾。正确的说法是区间越长,点落进去的机会越大,比例就是长度之比。

同一个「随机」,为什么能算出三个答案

在圆内随机取一条弦,问弦长超过内接正三角形边长的概率,三种取法分别得 \(1/3\)、\(1/2\)、\(1/4\),都讲得通,这就是贝特朗悖论。分歧出在没说清哪个量均匀:中点、方向、端点,三种均匀是三个样本空间。用几何概型之前必须指定样本空间与度量。

怎么算

  • 先认模型。结果数得清且等可能,走古典概型数个数;样本空间是区间或区域,走几何概型量长度面积;两者都不像,回到三条公理硬推。
  • 拆开再相加。算不出来的事件,拆成互不相交的几块分别算,这是公理唯一提供的加法工具。
  • 反过来算。见到「至少有一个」,先算它的对立事件,再用 1 去减。
  • 加法公式要减重。两个事件相加减掉交集,三个事件减两两交集再加回三重交集。
  • 几何概型先画图。把两个变量摆成平面坐标,事件画成区域,最后算面积之比,别去数点。

例题

例 1 设 \(P(A)=0.5\),\(P(B)=0.4\),\(P(A\cup B)=0.7\),求 \(P(AB)\)、\(P(A-B)\)、\(P(\overline{A}\,\overline{B})\)。

由加法公式 \(P(AB)=0.5+0.4-0.7=0.2\);由减法公式 \(P(A-B)=P(A)-P(AB)=0.3\);\(\overline{A}\,\overline{B}\) 是 \(A\cup B\) 的对立事件,故 \(P(\overline{A}\,\overline{B})=1-0.7=0.3\)。

例 2 甲、乙两人在 8:00 至 9:00 之间各自随机到达某地,先到者等 20 分钟,等不到就走。求两人见面的概率。

样本空间是边长 60 的正方形,见面条件是 \(|x-y|\le20\)。扣除两个边长 40 的直角三角形,面积 \(3600-2\times\frac{40\times40}{2}=2000\),概率 \(2000/3600=5/9\approx0.556\)。

例 3 平面上每隔 1 画一条平行线,投一根长 1 的针。求针与线相交的概率,并估计投 3000 次大约相交多少次。

这是 \(l=1\)、\(a=1\) 的布丰投针,\(P=\dfrac{2l}{\pi a}=\dfrac{2}{\pi}\approx0.637\)。相交次数约为 \(3000\times0.637\approx1910\) 次,反过来用这个频率可以估出 \(\pi\approx2/0.637\approx3.14\)。

习题

A 档 巩固定义与基本计算,每题五分钟内

1. 写出掷两枚硬币的样本空间,并用集合写出事件「至少出现一次正面」。

看答案

\(S=\{\text{正正},\text{正反},\text{反正},\text{反反}\}\),所求事件是 \(\{\text{正正},\text{正反},\text{反正}\}\)。

2. 设 \(P(A)=0.4\),\(P(B)=0.3\),\(A\) 与 \(B\) 互不相容,求 \(P(A\cup B)\)、\(P(\overline{A})\)、\(P(\overline{A}\,\overline{B})\)。

看答案

互不相容时 \(P(A\cup B)=0.7\);\(P(\overline{A})=1-0.4=0.6\);\(\overline{A}\,\overline{B}\) 是 \(A\cup B\) 的对立事件,得 \(1-0.7=0.3\)。

3. 设 \(P(A)=P(B)=P(C)=1/4\),\(P(AB)=0\),\(P(AC)=P(BC)=1/8\),求 \(P(A\cup B\cup C)\)。

看答案

用三事件加法公式:\(3/4-(0+1/8+1/8)+P(ABC)\),而 \(ABC\subset AB\) 且 \(P(AB)=0\),所以 \(P(ABC)=0\),答案为 \(1/2\)。

4. 用三条公理证明 \(P(A\cup B)\le P(A)+P(B)\)。

看答案

由加法公式 \(P(A\cup B)=P(A)+P(B)-P(AB)\),非负性给出 \(P(AB)\ge0\),移项即得。等号成立当且仅当 \(P(AB)=0\)。

5. 一条线段长 3,随机投一点,求它落在距左端 1 到 2 之间的概率。

看答案

这一段长 1,样本空间长 3,由长度之比得 \(1/3\)。

6. 在区间 \([0,1]\) 上随机取一点,求它落在 \([0.2,0.7]\) 内的概率。

看答案

区间长 \(0.5\),样本空间长 1,概率 \(0.5\)。落在端点的情形长度为零,不影响答案。

B 档 综合题,接近期末与考研难度

1. 设 \(P(A)=P(B)=1\),证明 \(P(AB)=1\)。

看答案

由加法公式 \(P(A\cup B)=1+1-P(AB)\le1\),得 \(P(AB)\ge1\);概率不会超过 1,故 \(P(AB)=1\)。

2. 甲、乙在 0 到 60 分钟内各自随机到达,先到者等 15 分钟。求甲比乙晚到且两人见面的概率。

看答案

见面带面积 1575,其中 \(x \gt y\) 的一半是 787.5,概率 \(787.5/3600=7/32\)。对角带被对角线平分成两半。

3. 在半径 \(R\) 的圆内随机取一点,求它到圆心距离小于 \(R/2\) 的概率;距离恰好等于 \(R/2\) 的概率是多少。

看答案

小圆面积 \(\pi R^2/4\),与大圆 \(\pi R^2\) 之比为 \(1/4\)。圆周面积为 0,所以距离恰为 \(R/2\) 的概率是 0。

4. 布丰投针中取 \(l=2\)、\(a=4\),求相交概率;若希望概率等于 \(1/2\),针长应取多少。

看答案

\(P=\dfrac{2l}{\pi a}=\dfrac{4}{4\pi}=\dfrac{1}{\pi}\approx0.318\)。令 \(\dfrac{2l}{4\pi}=\dfrac12\) 得 \(l=\pi\approx3.14\),小于间距 4,可行。

C 档 拓展与历史原题

1.(柯尔莫哥洛夫,1933)他的体系把概率定义成事件域上的非负集函数,并要求 \(P(S)=1\)。为什么可加性只要求对可列多个事件成立,不要求对任意多个成立?

看答案

任意多个的和没有定义,取极限也无从谈起,可列个已经够推连续性、分布函数和大数定律。若真对任意多个都要求相加,均匀分布这类最基本的概率会立刻出矛盾,界限只能划在可数。

2.(博雷尔,1909)设样本空间是全体正整数,规定有限集的概率为 0、余有限集的概率为 1。说明它有限可加,却不满足可数可加。

看答案

有限可加成立,因为有限个有限集的并仍是有限集。但全体正整数是可列个单点之并,每个单点概率为 0,可数可加会给出总和 0,与 \(P(S)=1\) 矛盾。

3.(几何概型)会面问题里把 60 分钟改成 90 分钟、等待时间仍是 15 分钟,概率变成多少?再用投针估计 \(\pi\):投 5000 次相交 1592 次,\(l=1\)、\(a=2\),\(\pi\) 的估计值是多少?

看答案

概率为 \(1-(75/90)^2=1-25/36=11/36\approx0.306\)。由 \(P=1/\pi\) 得 \(\pi\approx5000/1592\approx3.141\)。

思考题 不设标准答案,只给提示

1. 古典定义、统计定义、公理化定义说的都是「概率」,它们是同一个东西吗?

看提示

古典定义是一个模型,只在有限且等可能时能用;统计定义是用频率去估,结果随试验而变;公理化定义是对函数的刻画,前两者分别是它的特例与近似。三者回答的问题不同,别混着用。

2. \(P(A)=0\) 能不能推出 \(A\) 一定不发生?

看提示

只在有限等可能模型里能。连续情形下单个点概率为 0,却照样可能被取到;反过来 \(P(A)=1\) 也不保证 \(A\) 必然发生。概率为零与不可能,在不可数样本空间里是两件事。

3. 可数可加性里「两两互不相容」这个条件能不能去掉?

看提示

不能。\(A\) 与 \(B\) 相交时 \(P(A\cup B)=P(A)+P(B)\) 会把公共部分算两次,正确的式子是加法公式。若允许相交还照加,把 \(S\) 拆成两个 \(S\),会得出 \(1=2\)。

延伸阅读

  • 盛骤、谢式千、潘承毅《概率论与数理统计》第四版,第一章 §1 至 §4。本章记号与例题口径以此为准。
  • 柯尔莫哥洛夫《概率论基本概念》(Grundbegriffe der Wahrscheinlichkeitsrechnung),1933 年,第一章。三条公理的原始写法,六十多页,能读完。
  • 博雷尔《可列概率及其算术应用》,1909 年。可数可加性被单独提出的那一篇。
  • 希尔伯特《数学问题》,1900 年巴黎讲演,第六问题。看它要求了什么,也看它没说什么。