6.3　独立随机变量之和 — 概率论基础教程

学习目标

推导并运用离散与连续两种卷积公式(convolution formula)，并能用"微元法"解释 \(P(X\in dx,\ Y\approx s-x)\) 的直观含义；
完整推导两个 iid \(U(0,1)\) 之和的三角形密度，熟练掌握"逐段确定积分限"的方法；
借助卷积与二项式定理完整证明泊松分布的可加性；
记住泊松、二项、正态、伽马四大可加性家族的结论及各自的前提条件（参数匹配）；
用离散卷积计算两颗骰子点数之和的三角形分布列，并理解它与连续情形的同构性。

1. 卷积公式：离散与连续

一家保险公司全天收到的索赔总次数，是上午与下午索赔次数之和；一台设备先后两个部件的总工作寿命，是两段寿命之和。当相加的随机变量相互独立（6.2 节）时，和的分布有一个统一而优美的算法。本节研究独立随机变量之和(sums of independent random variables) \(S=X+Y\) 的分布，核心工具是卷积公式(convolution formula)：它把"和取某值的概率"分解为两个变量各自概率的乘积之和。

定义 1　卷积公式（离散情形）

设 \(X\) 与 \(Y\) 是相互独立的离散型随机变量，分布列分别为 \(p_X\) 与 \(p_Y\)，则对任意整数 \(n\)，

\[ P(X+Y=n)=\sum_{k} p_X(k)\,p_Y(n-k), \]

其中求和遍及一切使两项都非零的 \(k\)。

理由只有一行：把事件 \(\{X+Y=n\}\) 按 \(X\) 的取值拆分为互不相容的事件 \(\{X=k,\ Y=n-k\}\)，再由独立性把联合概率写成乘积 \(p_X(k)p_Y(n-k)\)。

定理 1　卷积公式（连续情形）

设 \(X\) 与 \(Y\) 相互独立，密度分别为 \(f_X\) 与 \(f_Y\)，则 \(S=X+Y\) 具有密度

\[ f_S(s)=\int_{-\infty}^{\infty} f_X(x)\,f_Y(s-x)\,dx,\qquad -\infty \lt s \lt \infty. \]

证明先求分布函数。利用独立性与区域 \(\{(x,y):x+y\le s\}\) 化为累次积分： \[ F_S(s)=P(X+Y\le s)=\int_{-\infty}^{\infty} f_X(x)\bigg(\int_{-\infty}^{s-x} f_Y(y)\,dy\bigg)dx. \] 右端是含参变量 \(s\) 的积分，对 \(s\) 求导（内层积分的求导恰在被积函数处取 \(y=s-x\)）即得 \[ f_S(s)=\int_{-\infty}^{\infty} f_X(x) f_Y(s-x)\,dx. \qquad\blacksquare \]

微元法的直观（为什么被积函数是乘积 \(f_X(x)f_Y(s-x)\)）：要让 \(S\) 落入 \(s\) 附近的微元区间 \([s,\,s+ds)\)，可以让 \(X\) 先落入某个 \([x,\,x+dx)\)，此时 \(Y\) 就必须落入 \([s-x,\ s-x+ds)\)。两事件独立，这条"路径"的概率约为 \(f_X(x)\,dx\cdot f_Y(s-x)\,ds\)。把所有 \(x\) 的贡献加起来（积分）并除以 \(ds\)，便得卷积公式。口诀：固定 \(s\)，让 \(x\) 与 \(s-x\) "配对"。

注记　关于卷积的三点说明

(1) 积分号下的 \(f_Y(s-x)\) 是把 \(f_Y\) 的图像先关于纵轴翻转、再向右平移 \(s\)——"翻转–平移–相乘–积分"正是卷积(convolution) 一词的由来。(2) \(X\) 与 \(Y\) 地位对称，同样有 \(f_S(s)=\int f_Y(y) f_X(s-y)\,dy\)，两种写式结果相同。(3) 卷积只在两个密度支撑相交处有非零贡献——例 1 中"滑动区间"的说法正是这一几何事实的图形化。

2. 两个均匀变量之和：三角形密度

我们从一个看似最简单的情形入手：两个相同的均匀变量相加。它将展示连续卷积的全部技术要点——积分限由两个支撑的交集决定，必须对 \(s\) 分段讨论。

例 1　\(X, Y\) iid \(U(0,1)\)：三角形密度

设 \(X\) 与 \(Y\) 相互独立且都服从 \((0,1)\) 上的均匀分布，求 \(S=X+Y\) 的密度 \(f_S\)，并验证其规范性。

解写出密度：\(f_X(x)=1\)（\(0 \lt x \lt 1\)，其余为 0），\(f_Y\) 相同。由定理 1， \[ f_S(s)=\int_{-\infty}^{\infty} f_X(x)f_Y(s-x)\,dx. \] 被积函数取值 1 当且仅当 \(0 \lt x \lt 1\) 且 \(0 \lt s-x \lt 1\)，即 \[ x\in(s-1,\ s)\cap(0,\ 1). \] 交集非空要求 \(0 \lt s \lt 2\)。逐段确定积分限：
情形一 \(0 \lt s \lt 1\)：此时 \(s-1 \lt 0\)，条件 \(x \gt s-1\) 自动成立，交集为 \((0,\,s)\)。于是 \[ f_S(s)=\int_{0}^{s} 1\cdot 1\,dx = s. \] 情形二 \(1\le s \lt 2\)：此时 \(s \gt 1\)，条件 \(x \lt s\) 自动成立，交集为 \((s-1,\,1)\)。于是 \[ f_S(s)=\int_{s-1}^{1} 1\cdot 1\,dx = 2-s. \] 其余情形（\(s\le 0\) 或 \(s\ge 2\)）：交集为空，\(f_S(s)=0\)。综上， \[ f_S(s)= \begin{cases} s, & 0 \lt s \lt 1,\\[2pt] 2-s, & 1\le s \lt 2,\\[2pt] 0, & \text{其他}. \end{cases} \] 这就是三角形密度(triangular density)，在 \(s=1\) 处达到峰值 1。规范性检验： \[ \int_0^1 s\,ds+\int_1^2 (2-s)\,ds=\frac12+\frac12=1. \] 顺带一提：\(E[S]=\tfrac12+\tfrac12=1\)（期望的线性性无需独立性），由对称性还有 \(P(S \gt 1)=\tfrac12\)。

图 1：iid \(U(0,1)\) 之和的三角形密度：顶点在 \((1,1)\)，两段斜率分别为 \(+1\) 与 \(-1\)。右上插图是参与卷积的两个矩形密度；下方面板给出几何解读——密度值 \(f_S(s)\) 恰是长度为 1 的滑动区间 \((s-1,\,s)\) 与支撑 \((0,1)\) 的重叠长度（图中取 \(s=1.5\)，重叠 \(0.5\)，对应主图中金色圆点）。

图 1 的下方面板把例 1 的计算"翻译"成了几何：让一个长度为 1 的区间从左向右滑动，它与固定支撑 \((0,1)\) 的重叠长度先线性增大到 1，再线性减小到 0——这正是三角形的来历。先求支撑交集，再对 \(s\) 分段，是处理一切连续卷积的通用流程。

3. 四大可加性家族

卷积公式不仅用于具体计算，还揭示了一批分布的"封闭性"：某些分布族之内，独立和仍落在同一族中，参数按简单规则相加。这种性质称为可加性(additivity)。泊松分布是其中最经典的一员。

定理 2　泊松分布的可加性

设 \(X\sim\text{Poisson}(\lambda_1)\) 与 \(Y\sim\text{Poisson}(\lambda_2)\) 相互独立，则 \[ X+Y\sim\text{Poisson}(\lambda_1+\lambda_2). \]

证明记 \(S=X+Y\)。对 \(n=0,1,2,\dots\)，由定义 1 与独立性， \[ P(S=n)=\sum_{k=0}^{n} P(X=k)\,P(Y=n-k) =\sum_{k=0}^{n} e^{-\lambda_1}\frac{\lambda_1^{k}}{k!}\cdot e^{-\lambda_2}\frac{\lambda_2^{\,n-k}}{(n-k)!}. \] 提出与 \(k\) 无关的因子 \(e^{-(\lambda_1+\lambda_2)}\)，并把 \(\dfrac{1}{k!(n-k)!}\) 改写为 \(\dfrac{1}{n!}\dbinom{n}{k}\)： \[ P(S=n)=\frac{e^{-(\lambda_1+\lambda_2)}}{n!}\sum_{k=0}^{n}\binom{n}{k}\lambda_1^{k}\lambda_2^{\,n-k}. \] 由二项式定理(binomial theorem)，右端求和恰为 \((\lambda_1+\lambda_2)^n\)，故 \[ P(S=n)=e^{-(\lambda_1+\lambda_2)}\frac{(\lambda_1+\lambda_2)^n}{n!},\qquad n=0,1,2,\dots \] 即 \(S\sim\text{Poisson}(\lambda_1+\lambda_2)\)。\(\blacksquare\)

关键一步是把阶乘倒数改写成二项系数——卷积求和恰好按二项式定理"合拢"，概率论与组合恒等式在此漂亮会合。

例 2　上午 Poisson(2) + 下午 Poisson(3) = 全天 Poisson(5)

某保险公司上午的索赔次数 \(X\sim\text{Poisson}(2)\)，下午的索赔次数 \(Y\sim\text{Poisson}(3)\)，两个时段相互独立。求全天索赔次数 \(S=X+Y\) 的分布，并计算 \(P(S=0)\)、\(P(S=1)\) 与 \(P(S=2)\)。

解由定理 2，\(S\sim\text{Poisson}(2+3)=\text{Poisson}(5)\)。于是 \[ P(S=0)=e^{-5}\approx 0.0067,\qquad P(S=1)=5e^{-5}\approx 0.0337,\qquad P(S=2)=\frac{5^2}{2!}e^{-5}\approx 0.0842. \] 用卷积直接验证 \(P(S=1)\)： \[ P(S=1)=P(X=0,Y=1)+P(X=1,Y=0)=e^{-2}\cdot 3e^{-3}+2e^{-2}\cdot e^{-3}=5e^{-5}, \] 与定理结果一致。全天平均索赔 \(E[S]=2+3=5\) 次；由于泊松分布均值等于方差，\(\mathrm{Var}(S)=5\)。

定理 3　二项、正态与伽马分布的可加性

设 \(X\) 与 \(Y\) 相互独立，则：
(a) 若 \(X\sim B(n_1,p)\)，\(Y\sim B(n_2,p)\)（成功概率 \(p\) 相同），则 \(X+Y\sim B(n_1+n_2,\ p)\)；
(b) 若 \(X\sim N(\mu_1,\sigma_1^2)\)，\(Y\sim N(\mu_2,\sigma_2^2)\)，则 \(X+Y\sim N(\mu_1+\mu_2,\ \sigma_1^2+\sigma_2^2)\)；
(c) 若 \(X\sim \Gamma(r_1,\lambda)\)，\(Y\sim \Gamma(r_2,\lambda)\)（速率参数 \(\lambda\) 相同），则 \(X+Y\sim \Gamma(r_1+r_2,\ \lambda)\)。特别地，两个独立 \(\text{Exp}(\lambda)\) 之和 \(\sim\Gamma(2,\lambda)\)。

证明(a) 组合解释：\(X\) 是前 \(n_1\) 次独立成功率为 \(p\) 的试验的成功次数，\(Y\) 是另外 \(n_2\) 次独立试验的成功次数，于是 \(X+Y\) 是接连 \(n_1+n_2\) 次独立试验的成功次数，即 \(B(n_1+n_2,\,p)\)。（代数上，把卷积和中的 \(p^{k}q^{\,n_1+n_2-k}\)（\(q=1-p\)）提出后，剩下的是范德蒙德恒等式 \(\sum_j \binom{n_1}{j}\binom{n_2}{k-j}=\binom{n_1+n_2}{k}\)。）
(b) 代入定理 1 并配方。令 \(u=x-\mu_1\)，\(v=s-\mu_1-\mu_2\)，指数部分为 \[ \frac{u^2}{2\sigma_1^2}+\frac{(v-u)^2}{2\sigma_2^2} =\frac{\sigma_1^2+\sigma_2^2}{2\sigma_1^2\sigma_2^2}\bigg(u-\frac{\sigma_1^2\,v}{\sigma_1^2+\sigma_2^2}\bigg)^{\!2}+\frac{v^2}{2(\sigma_1^2+\sigma_2^2)}. \] 对 \(u\) 积分，用高斯积分 \(\int_{-\infty}^{\infty} e^{-aw^2}dw=\sqrt{\pi/a}\)（\(a \gt 0\)）得 \[ f_S(s)=\frac{1}{\sqrt{2\pi(\sigma_1^2+\sigma_2^2)}}\exp\bigg\{-\frac{(s-\mu_1-\mu_2)^2}{2(\sigma_1^2+\sigma_2^2)}\bigg\}, \] 即 \(S\sim N(\mu_1+\mu_2,\ \sigma_1^2+\sigma_2^2)\)：均值相加、独立时方差相加。
(c) 当 \(s \gt 0\) 时，被积函数非零要求 \(0 \lt x \lt s\)，代入定理 1： \[ f_S(s)=\int_0^s \frac{\lambda e^{-\lambda x}(\lambda x)^{r_1-1}}{\Gamma(r_1)}\cdot\frac{\lambda e^{-\lambda(s-x)}\big(\lambda(s-x)\big)^{r_2-1}}{\Gamma(r_2)}\,dx =\frac{\lambda^{r_1+r_2} e^{-\lambda s}}{\Gamma(r_1)\Gamma(r_2)}\int_0^s x^{r_1-1}(s-x)^{r_2-1}\,dx. \] 令 \(x=st\)，内层积分化为 \(s^{r_1+r_2-1}\int_0^1 t^{r_1-1}(1-t)^{r_2-1}dt=s^{r_1+r_2-1}B(r_1,r_2)\)；再由贝塔函数与伽马函数的关系 \(B(r_1,r_2)=\dfrac{\Gamma(r_1)\Gamma(r_2)}{\Gamma(r_1+r_2)}\)，得 \[ f_S(s)=\frac{\lambda^{r_1+r_2} e^{-\lambda s}\,s^{r_1+r_2-1}}{\Gamma(r_1+r_2)},\qquad s \gt 0, \] 此即 \(\Gamma(r_1+r_2,\lambda)\) 的密度。取 \(r_1=r_2=1\)（指数分布）即得 \(f_S(s)=\lambda^2 s e^{-\lambda s}\)，亦称 2 阶厄朗分布(Erlang distribution)。\(\blacksquare\)

表 1：四大可加性家族一览（均要求 \(X\) 与 \(Y\) 独立）
\(X\) 与 \(Y\) 独立	\(X+Y\) 的分布	前提与备注
\(\text{Poisson}(\lambda_1)\) 与 \(\text{Poisson}(\lambda_2)\)	\(\text{Poisson}(\lambda_1+\lambda_2)\)	定理 2，例 2
\(B(n_1,p)\) 与 \(B(n_2,p)\)	\(B(n_1+n_2,\ p)\)	成功概率 \(p\) 必须相同
\(N(\mu_1,\sigma_1^2)\) 与 \(N(\mu_2,\sigma_2^2)\)	\(N(\mu_1+\mu_2,\ \sigma_1^2+\sigma_2^2)\)	均值、方差分别相加
\(\Gamma(r_1,\lambda)\) 与 \(\Gamma(r_2,\lambda)\)	\(\Gamma(r_1+r_2,\ \lambda)\)	速率 \(\lambda\) 必须相同；\(\text{Exp}+\text{Exp}=\Gamma(2,\lambda)\)

注记　可加性是"少数家族的特权"

均匀族对加法并不封闭：例 1 中 \(U(0,1)+U(0,1)\) 是三角形而非均匀。可加性也与第 8 章的中心极限定理互为表里：大量独立小效应的叠加趋于正态（8.3 节），而正态再叠加仍是正态——正态族是这种"稳定吸收"的不动点。另需警惕参数前提：伽马族要求速率 \(\lambda\) 相同，二项族要求成功概率 \(p\) 相同；参数不匹配时和通常不再属于该族。本节四条结论也可以用第 7 章的矩母函数(moment generating function)方法"一步读出"，但卷积推导更直接地揭示了结构。

4. 离散卷积：两颗骰子的点数和

离散卷积同样威力十足，最古老的例子莫过于掷两颗骰子。它恰好是例 1 的"离散版本"。

例 3　两颗骰子点数之和的分布列

掷两颗均匀骰子，\(X\) 与 \(Y\) 分别是第一、第二颗的点数，相互独立，各自以概率 \(1/6\) 取 \(1,\dots,6\)。求 \(S=X+Y\) 的分布列，并验证全部概率之和为 1。

解由定义 1， \[ P(S=k)=\sum_{j=1}^{6} p_X(j)\,p_Y(k-j),\qquad k=2,3,\dots,12, \] 其中 \(p_Y(k-j)=\tfrac16\) 当且仅当 \(1\le k-j\le 6\)。于是每一项 \(\tfrac1{36}\)，非零项的个数是整数集合 \[ \{\,j:\ 1\le j\le 6,\ 1\le k-j\le 6\,\}=\{\,j:\ \max(1,k-6)\le j\le \min(6,k-1)\,\} \] 的元素个数 \(N(k)=\min(6,k-1)-\max(1,k-6)+1\)。分两段：当 \(2\le k\le 7\) 时，\(\min(6,k-1)=k-1\)，\(\max(1,k-6)=1\)，故 \(N(k)=k-1\)；当 \(8\le k\le 12\) 时，\(\min(6,k-1)=6\)，\(\max(1,k-6)=k-6\)，故 \(N(k)=13-k\)。因此 \[ P(S=k)=\begin{cases} \dfrac{k-1}{36}, & 2\le k\le 7,\\[4pt] \dfrac{13-k}{36}, & 8\le k\le 12.\end{cases} \] 例如 \(k=4\)：非零项为 \((1,3),(2,2),(3,1)\)，共 \(3\) 项，\(P=3/36\)；\(k=7\)：\(6\) 项，\(P=6/36\)。检验： \[ 2\times\frac{1+2+3+4+5}{36}+\frac{6}{36}=\frac{30+6}{36}=1. \] 期望 \(E[S]=3.5+3.5=7\)，恰为分布的对称中心。

图 2：两颗骰子点数之和的分布列（离散卷积）。棒高依次为 \(1,2,3,4,5,6,5,4,3,2,1\)（均除以 36），峰值在 \(k=7\)（\(6/36\approx 0.167\)，绛红高亮）；金色虚线勾出对称的三角形轮廓，与图 1 的连续三角形同构。

把例 1 的"滑动区间"换成"滑动的整点集合"，三角形再次出现——这不是巧合：两个高 \(1/6\) 的"离散矩形"卷积出离散三角形，正如两个单位矩形卷积出三角形密度。离散与连续在此完全平行。

5. 本节小结

要点回顾

卷积公式：离散 \(P(X+Y=n)=\sum_k p_X(k)p_Y(n-k)\)；连续 \(f_S(s)=\int f_X(x)f_Y(s-x)\,dx\)。推导要点：把和的事件按 \(X\) 的取值分解，或用微元 \(P(X\in dx,\ Y\approx s-x)\)。
iid \(U(0,1)\) 之和为三角形密度 \(f_S(s)=s\)（\(0 \lt s \lt 1\)），\(=2-s\)（\(1\le s \lt 2\)）；难点全在积分限——先求两支撑之交，再对 \(s\) 分段。
四大可加族：\(\text{Poisson}(\lambda_1+\lambda_2)\)；\(B(n_1+n_2,p)\)（需同 \(p\)）；\(N(\mu_1+\mu_2,\ \sigma_1^2+\sigma_2^2)\)；\(\Gamma(r_1+r_2,\lambda)\)（需同 \(\lambda\)），且 \(\text{Exp}+\text{Exp}=\Gamma(2,\lambda)\)。
泊松可加性的证明 = 卷积求和 + 二项式定理；伽马可加性的证明 = 卷积积分 + 贝塔函数。
两颗骰子的点数和：离散三角形 \(1/36,\dots,6/36,\dots,1/36\)，峰在 \(k=7\)，与连续三角形密度同构。

练习

练习 6-3-1

设 \(X\sim U(0,1)\) 与 \(Y\sim U(0,2)\) 相互独立，求 \(S=X+Y\) 的密度，说明其图形形状并验证规范性。

答案与提示

\(f_X=1\)（\((0,1)\)），\(f_Y=\tfrac12\)（\((0,2)\)）。被积函数 \(\tfrac12\) 当且仅当 \(x\in(\max(0,s-2),\ \min(1,s))\)。分段积分：\(0 \lt s \lt 1\) 时 \(x\in(0,s)\)，\(f_S(s)=\tfrac{s}{2}\)；\(1\le s \lt 2\) 时 \(x\in(0,1)\)，\(f_S(s)=\tfrac12\)；\(2\le s \lt 3\) 时 \(x\in(s-2,1)\)，\(f_S(s)=\tfrac{3-s}{2}\)；其余为 0。检验：\(\tfrac14+\tfrac12+\tfrac14=1\)。图形为梯形(trapezoid)：上升—平台—下降；\(E[S]=0.5+1.5=2\)。

练习 6-3-2

用卷积公式验证：\(X\sim B(n_1,p)\) 与 \(Y\sim B(n_2,p)\) 独立时 \(X+Y\sim B(n_1+n_2,\ p)\)。

答案与提示

\(P(S=k)=\sum_j \binom{n_1}{j}\binom{n_2}{k-j}p^{\,j}q^{\,n_1-j}\,p^{\,k-j}q^{\,n_2-k+j} =p^k q^{\,n_1+n_2-k}\sum_j\binom{n_1}{j}\binom{n_2}{k-j}\)（\(q=1-p\)）。由范德蒙德恒等式（组合意义：从 \(n_1+n_2\) 个元素中取 \(k\) 个，按来自两组的个数 \(j\) 分类），和为 \(\binom{n_1+n_2}{k}\)，故 \(P(S=k)=\binom{n_1+n_2}{k}p^k q^{\,n_1+n_2-k}\)。

练习 6-3-3

设 \(X\) 与 \(Y\) 独立且都服从 \(\text{Exp}(\lambda)\)，用卷积求 \(S=X+Y\) 的密度，并说明 \(S\) 不再服从指数分布。

答案与提示

被积函数非零要求 \(0 \lt x \lt s\)，故 \[ f_S(s)=\int_0^s \lambda e^{-\lambda x}\,\lambda e^{-\lambda(s-x)}\,dx=\lambda^2 e^{-\lambda s}\int_0^s dx=\lambda^2 s\,e^{-\lambda s},\qquad s \gt 0, \] 即 \(\Gamma(2,\lambda)\)（2 阶厄朗），与定理 3(c) 取 \(r_1=r_2=1\) 一致。\(S\) 不指数：其生存函数 \(P(S \gt t)=e^{-\lambda t}(1+\lambda t)\) 不满足无记忆性（5.5 节），例如 \(P(S \gt 2\,|\,S \gt 1)\ne P(S \gt 1)\)。

练习 6-3-4

设 \(X\sim\text{Poisson}(1)\) 与 \(Y\sim\text{Poisson}(1.5)\) 独立，求 \(P(X+Y=0)\) 与 \(P(X+Y=2)\)。

答案与提示

由定理 2，\(S\sim\text{Poisson}(2.5)\)。\(P(S=0)=e^{-2.5}\approx 0.0821\)；\(P(S=2)=\tfrac{2.5^2}{2!}e^{-2.5}=3.125\,e^{-2.5}\approx 0.2565\)。也可直接卷积验证：\(P(S=2)=P(0,2)+P(1,1)+P(2,0)=e^{-2.5}\big(\tfrac{1.5^2}{2}+1\times1.5+\tfrac12\big)=3.125\,e^{-2.5}\)。