第 1 章 · 组合分析

1.1 引言

Introduction
学习目标
  • 说明概率论的研究对象,以及"随机性"与"不确定性"的含义;
  • 了解概率概念的起源与公理化进程的历史脉络;
  • 列举概率论在保险、统计、物理、计算机与金融等领域的典型应用;
  • 掌握本教程的整体结构,了解各章之间的逻辑依赖关系;
  • 熟悉全书使用的记号约定(样本空间、事件、概率、期望等)。

1. 概率:刻画不确定性的数学

我们生活在一个充满不确定性的世界里:明天的天气、一场比赛的结果、一台设备还能运转多久、下一分钟到达服务器的请求数——这些现象的共同特点是:个别结果事先无法确切预知,但在大量重复观察之下却呈现出稳定的规律。概率论(probability theory)正是研究这种随机现象(random phenomenon)的数学分支:它为"可能性"提供精确的语言、严格的运算规则,以及从数据中推断规律的理论根基。

概率论的一个基本立场是:随机不等于无规律。单掷一枚硬币,我们无法预言正反;但将硬币掷一万次,正面出现的比例几乎必然接近 \(1/2\)。这种"个别不可预言、整体呈现稳定"的性质称为统计规律性(statistical regularity),它是整个学科得以建立的经验基础,其理论保证正是本教程第 8 章的大数定律(law of large numbers)。

定义 1 随机试验

在一定条件下可以重复进行、全部可能结果事先已知、而单次结果无法确定的试验,称为随机试验(random experiment),常用字母 \(E\) 表示。试验的每一个可能结果称为一个结果(outcome),全体结果构成的集合称为样本空间(sample space),记作 \(S\)。

例如:掷一颗骰子是一个随机试验,样本空间为 \(S=\{1,2,3,4,5,6\}\);测量一只灯泡的寿命,则 \(S=(0,\infty)\)。样本空间与事件的严格定义将在 2.2 节给出,这里只需建立直观印象。

例 1 "随机"的两种面孔

观察下面两个现象,指出它们分别体现了随机性的哪个侧面:(a) 掷一颗骰子得到的点数;(b) 一条生产线上的产品是否为次品。

两者单次结果都不可预知,但性质不同。(a) 的结果是"等可能"的六个点数之一,对称性使我们能够先验地断言每个点的概率为 \(1/6\);(b) 的结果只有次品/正品两种,其次品率 \(p\) 通常是未知的,需要通过大量观察(统计推断)来估计。前者对应第 2 章"等可能样本空间"的古典模型,后者引出以频率解释概率、并以第 8 章极限定理作支撑的统计观点。概率论为这两种情形提供了统一的数学框架。

2. 历史脉络:从赌桌问题到公理体系

概率论的发端颇具戏剧性:1654 年,法国贵族德·梅雷(De Méré)向数学家帕斯卡(Pascal)提出了一个赌金分配问题——一场进行到中途的比赛应当如何公平地分配赌注?帕斯卡与费马(Fermat)的通信给出了解答,这次通信被公认为概率论的起点。此后,惠更斯(Huygens)于 1657 年出版第一部概率论著作;伯努利(Bernoulli)在 1713 年证明了大数定律的第一个结果("频率稳定到概率");拉普拉斯(Laplace)在 1812 年的《概率的分析理论》中将分析方法系统引入概率论;最终,柯尔莫哥洛夫(Kolmogorov)于 1933 年以三条概率公理(axioms of probability)奠定了现代概率论的严格基础——本教程第 2 章的展开顺序,正是沿着这条"从直观到公理"的路线设计的。

1654 帕斯卡–费马 赌金分配通信 1657 惠更斯 首部概率论著作 1713 伯努利 大数定律 1812 拉普拉斯 分析概率论 1933 柯尔莫哥洛夫 概率公理化 概率论发展时间线
图 1:概率论从赌桌问题走向公理体系的三百年历程。本教程第 2 章的公理正是柯尔莫哥洛夫体系的入口。
注记 "赌金分配问题"是什么

两名水平相当的赌徒约定先胜 \(n\) 局者赢得全部赌金,当比分进行到 \(a:b\)(均未达到 \(n\) 胜)时赌博被迫中断。问题是:赌金应按什么比例分配?直观的"按已胜局数分配"并不公平——帕斯卡指出,应当按"若继续赌下去各自获胜的概率"分配。这一思路第一次把"未来不确定性"量化为可比的数,是期望概念的雏形(期望的严格定义见 4.3 节)。

3. 随机现象无处不在:应用一瞥

今天的概率论早已远离赌桌,成为科学与工程的基础语言。以下列举数端,它们都将在本教程的具体章节中反复出现:

  • 保险与风险管理:用二项分布与泊松分布刻画赔案件数(4.64.7 节),用中心极限定理估计总赔付风险(8.3 节);
  • 统计物理:把粒子随机分配到能级,本质是第 1 章的计数问题;粒子寿命的指数分布与无记忆性见 5.5 节
  • 通信与排队:呼叫到达的泊松过程、指数到达间隔(5.54.7 节);
  • 统计推断与机器学习:样本均值与样本方差的分布性质(7.7 节)是一切统计推断的基石,贝叶斯公式(3.3 节)是贝叶斯学派的命名来源;
  • 可靠性与系统设计:串联/并联系统的可靠度(3.46.6 节);
  • 计算机模拟:蒙特卡洛方法以大数定律为合法性依据(8.4 节)。

4. 本教程的结构与使用方法

本教程严格依据 Sheldon M. Ross《概率论基础教程》(A First Course in Probability)的章节体系展开,共八章:前两章搭建"数样本点 + 公理化"的地基,第 3 章引入最重要的条件概率观点,第 4、5 章分别研究单个离散型与连续型随机变量,第 6 章转向多个随机变量的联合行为,第 7 章系统挖掘期望的性质,最后第 8 章以极限定理收束全书——为"频率稳定""正态普适""模拟可信"提供终极解释。

第 1 章 组合分析 第 2 章 概率的公理 第 3 章 条件概率与独立性 第 4 章 随机变量(离散) 第 5 章 连续型随机变量 第 6 章 联合分布 第 7 章 期望的性质 第 8 章 极限定理 极限定理为全书收束: 大数定律与中心极限定理。 实线箭头:内容上的自然衔接 虚线:收束性的依赖
图 2:全书八章的知识结构。第 1–3 章为概率基础,第 4–6 章为随机变量及其分布,第 7 章深化期望工具,第 8 章以极限定理总揽全局。

如何使用本教程:每一节都包含"学习目标—正文(定义、定理与证明、例题、插图)—小结—练习"。例题与练习取材于 Ross 原书的经典问题风格,练习的答案与提示可点击展开。记号约定如下表,全书统一使用。

表 1:全书常用记号
记号含义首次出现
\(S\)样本空间2.2 节
\(E, F\)事件2.2 节
\(P(E)\)事件 \(E\) 的概率2.3 节
\(EF\), \(E\cup F\), \(E^c\)交、并、补2.2 节
\(P(E\,|\,F)\)条件概率3.2 节
\(X, Y\)随机变量4.1 节
\(p(x)\), \(f(x)\)分布列 / 密度函数4.2 / 5.1 节
\(F(x)\)分布函数4.1 节
\(E[X]\), \(\mathrm{Var}(X)\)期望与方差4.3 / 4.5 节
\(\sim\)"服从(某分布)"4.6 节

5. 本节小结

要点回顾
  • 概率论研究个别结果不可预知、整体呈现统计规律性的随机现象;"随机不等于无规律"。
  • 学科起源于 1654 年帕斯卡–费马关于赌金分配的通信,1933 年由柯尔莫哥洛夫公理化。
  • 概率论是保险、物理、通信、统计推断、可靠性与模拟等领域的共同语言。
  • 全书沿"计数 → 公理 → 条件概率 → 离散 → 连续 → 联合 → 期望性质 → 极限定理"的路线展开。
  • 进入下一节之前,请熟悉表 1 的记号——它们将贯穿全书。

练习

练习 1-1-1

举出你所在专业中的两个随机现象,说明哪一个适合用"等可能结果"模型,哪一个需要通过数据估计概率。

答案与提示

等可能需要对称性支撑(如抽签、掷骰、随机分组);需估计的如及格率、故障率、转化率。关键判据:是否有人在结构上保证了"对称"。

练习 1-1-2

赌金分配问题:甲乙各押 32 枚金币,约定先胜 3 局者赢得全部 64 枚。甲已胜 2 局、乙已胜 1 局时中断,按帕斯卡的观点应如何分配?

答案与提示

继续比赛最多再赛 2 局,枚举四种等可能结局,甲最终获胜的情形占 \(3/4\)(乙必须连胜两局才逆转,概率 \(1/4\))。故甲分 \(64\times 3/4=48\),乙分 \(16\)——而不是按当前比分 2:1 分成 \(42.7\) 与 \(21.3\)。

练习 1-1-3

"抛一枚硬币 10 次全部正面,第 11 次更可能是反面",这一说法错在哪里?

答案与提示

若硬币均匀且各次独立(第 3 章),每次正反概率均为 \(1/2\),历史结果不改变未来。人们的直觉错误在于把"小概率事件已发生"误当作"补偿机制"启动。若怀疑硬币不均匀,那恰是贝叶斯推断(3.3 节)的用武之地。