4.5 流模型：变量替换与雅可比行列式

4.5.1 训练准则的谱系：下界、对抗与精确似然

4.2 节立起自回归骨架，4.3–4.4 节用回报训练它。本节换一副目标：回到极大似然，而且要算得准——逐样本的 log p(x) 不许有下界、不许有近似。深度生成模型按训练准则排成一条谱系。变分自编码器（Kingma & Welling, 2014）引入潜变量 z，边际似然要对 z 积分，积分不可解，只好退而最大化证据下界(evidence lower bound, ELBO)：

凡下界必有缺口：容量再大，优化到达的也只是下界，训练曲线无法回答「真实似然到了什么水平」。生成对抗网络走另一极端，干脆放弃似然：无似然(likelihood-free)的对抗训练让判别器与生成器互相施压，训练结束后密度本身没有定义，模型之间只能靠样本与 4.1 节的评估指标间接比较。4.3–4.4 节的策略梯度按回报优化，同样不在似然谱系之内。流模型(normalizing flow)走第三条路：直接给出精确对数似然(exact log-likelihood)，无下界、无近似、逐样本可算（Rezende & Mohamed, 2015；综述见 Papamakarios et al., 2021）。三条路的取舍列于表 4.5-1。

分子生成在乎精确似然，理由有三。其一，训练有了逐样本的监控信号：哪个分子被模型认为「不像」，数值直接可见。其二，不同模型在同一把尺上可比，负对数似然是与 4.1 节各项指标互补的硬通货。其三，似然目标与性质奖励可以叠加以外的次序组合——先以纯似然预训练、再以奖励微调，GraphAF（4.6 节）正是这么做的。天下没有免费的精确：密度能算准的前提，是生成过程必须整体可逆；可逆性会反过来捆住架构的手脚。这份账单先挂在这里，4.5.4 节起逐项清点。

4.5.2 一维：概率质量守恒与变量替换

一切从一维开始。设随机变量 X 在数据空间取值，密度 pₓ(x)；取映射 z = f(x)，f 逐点可微且严格单调。严格单调保证双射(bijection)：每个 x 对应唯一 z，反之亦然；可微保证导数存在，单调则排除导数变号过零的麻烦。在这组假设下，p_x 与 p_z 之间有一个完全确定的换算关系。推导只靠一件事：概率质量在变换下守恒——变换搬运的是随机变量的取值，搬不动概率本身。

取小区间 [x₀, x₀+Δ]，Δ 小到 p_x 在其上近似恒定。事件 {X ∈ [x₀, x₀+Δ]} 与事件 {Z ∈ [f(x₀), f(x₀+Δ)]} 是同一个事件——f 一一对应，x 落进区间当且仅当 z 落进像区间。同一事件，两种记账。左端按数据空间的密度记账：

右端按潜空间的密度记账，像区间的长度由一阶泰勒展开给出：f(x₀+Δ) − f(x₀) ≈ f′(x₀)·Δ，故

两笔记的是同一笔账，相等，约去 Δ，得变量替换(change of variables)公式：

三句直觉把公式焊牢。第一，密度不是不变量。守恒的是概率质量，密度是「单位长度的质量」；换一把被拉长的尺，同一份质量的线密度自然变稀。|f′| 就是这把尺的拉伸倍数，公式里的乘除全是对度量变换的补偿。第二，压缩则密度升高。取 f(x) = 2x（即 x = z/2）：z 上的标准正态搬回 x 轴，宽度减半、峰高翻倍——p_x(0) = 2·p_z(0)。同一份概率质量装进更短的区间，密度必须升。第三，可逆性不是装饰。若 f 非单射（如 x²），两个 x 挤进同一 z，质量从两处汇到一处，单凭 z 与 f 无法分摊回去，公式失效；若 f′ 在某点为零（如 x = z³ 在原点），该处压缩无穷，密度发散。两类毛病正是定义框里三条假设要防的对象。图 4.5-1 把双向关系与质量守恒画在一处。

4.5.3 多维推广：雅可比行列式作为体积缩放因子

分子不是一维数，向量 x ∈ Rⁿ 的变换 f: Rⁿ → Rⁿ 没有「导数」可用，接替者是雅可比矩阵(Jacobian matrix) J_f(x)，其第 (i, j) 元为 ∂f_i/∂x_j。微积分的标准结论：f 在 x₀ 附近的最优线性近似是 f(x₀+δ) ≈ f(x₀) + Jδ。一维推导里的「长度缩放率」，在多维由这个线性映射接管。

线性映射把单位立方体映为平行多面体，n 维体积恰为 |det J|——这是行列式的几何定义，也是全部流模型数学的支点。把一维推导逐句翻译：取以 x₀ 为中心的小体积元，体积 δV；像体积为 |det J_f(x₀)|·δV；事件等价、质量守恒、约去 δV，得

训练与数值实现都放在对数域。基础分布 p_z 通常取各维独立的标准正态，对数密度按维可加，于是

最后一步组合。「流」指一串可逆变换的复合：f = f_L ∘ … ∘ f₂ ∘ f₁，中间变量 h_ℓ = f_ℓ(h_ℓ−1)。复合的雅可比按链式法则相乘，行列式随之分解：

至此训练闭环：最大化 Σ_x log p_θ(x)，梯度经自动微分穿过可逆层，无下界、无近似。剩下唯一的、也是致命的障碍——第二项怎么算。

4.5.4 行列式困境：精确似然的入场费

给一个任意的深度网络 f_θ，式 (4.5-6) 的第二项算得动吗？算 |det J| 先要拿到整个 n×n 雅可比：反向传播一次给一个方向的梯度，凑齐 n 列要 n 次反向传播（或 n² 次前向偏导）；随后 LU 分解再花 O(n³)。分子图的特征维数以十计尚可承受，图像上千维则彻底不可行——而训练每一步、每个样本都要重复整件事。数值开销还不是根子上的病：任意网络根本不保证双射，行列式非零也不保证全局一一对应。「表达力不受限的任意网络」与「可逆且行列式可解析的网络」，两个要求几乎不相交。

出路只有一条：不改造任意网络，反其道行之——从可逆与行列式可解析出发，设计特殊结构，再靠堆叠补足表达力。两条主干道：耦合层（4.5.5 节），一半维度恒等、一半仿射，行列式解析、两头都快；自回归流（4.5.6 节），按链式法则逐维变换，雅可比天然下三角。代价与收益并存，先立警示。

4.5.5 耦合层：一半复制，一半仿射

耦合层(coupling layer)出自 NICE 的加性原型（Dinh et al., 2015），定型于 RealNVP 的仿射形式（Dinh et al., 2017）。思路一句话：把维度劈成两半，一半动、一半不动——不动的一半保证可逆性收发自如，动的一半保证变换有实质内容。设 x = (x_A, x_B)（按坐标前一半、后一半劈分，或按掩码选取），正向变换为

可逆性一眼可验。从 y 反解 x：x_A = y_A（恒等）；而 s、t 只依赖 x_A——x_A 既已到手，缩放与平移的系数便是已知数，逐元素反解即可：

行列式的账同样干净。把 y = (y_A, y_B) 对 x = (x_A, x_B) 排成分块雅可比：y_A 恒等于 x_A，故左上块是单位阵 I、右上块是零（y_A 与 x_B 无关）；y_B 对 x_B 逐分量仿射，右下块是对角阵 diag(exp s_i)；左下块 ∂y_B/∂x_A 稠密——s、t 是任意网络——但分块三角矩阵的行列式不含它：

「一半维度不动」是耦合层的软肋：任何一层里都有一半输入原样通过。补救办法是交替。相邻层换一种劈分——反转坐标次序、换掩码模式，或经可逆的 1×1 可逆混合后再劈（Kingma & Dhariwal, 2018）——上一层当 x_B 的维度，这一层轮值 x_A。堆叠 L 层后，每个维度都反复在「变换者」与「供料者」之间轮换，深度的复合弥补单层的保守。构造要点收进方法框。

4.5.6 自回归流：链式法则的条件变换版

第二条主干道把 4.2 节的链式法则直接搬进流框架。联合密度按任意固定次序分解为 p(x) = ∏_i p(x_i | x_<i)；自回归流(autoregressive flow)（Papamakarios et al., 2017）给每个条件分布换一种写法——不再是离散类别上的 softmax，而是一次标量变换(scalar transformation)加一维基础分布：网络读前缀 x_<i，输出变换参数 μ_i、σ_i（σ_i > 0），令

两套语言在此完全等价。联合变换 z = f(x) 的雅可比是下三角阵——z_i 只依赖 x_≤i，对 x_j（j > i）的偏导为零；对角元为 ∂z_i/∂x_i = 1/σ_i，故 log |det J| = −Σ log σ_i，与式 (4.5-11) 逐项相扣。链式法则天然把联合密度的变量替换拆成每维一个标量替换——一维公式（式 4.5-4）用 n 次即得全部。与 4.2 节自回归生成的同构也一目了然：那边每步输出「动作的条件分布」，这边每维输出「条件变换＋基础分布」；骨架同为链式法则，条件分布的载体从 softmax 换成了可逆标量变换。GraphAF（4.6 节）做的正是这次置换，再把条件网络的输入换成逐步长大的分子图。

训练与采样的不对称是自回归流的性格。训练沿 x → z 正向：给定数据 x，各维条件只依赖 x 的真实前缀——与 4.2.4 节的 teacher forcing 同源——一遍前向即可并行算出全部 z_i、σ_i 与对数似然。采样沿 z → x 反向：x_i = μ_i(x_<i) + σ_i(x_<i)·z_i，第 i 维要等前 i−1 维全部造完，只能逐维串行。若把条件改装在 z 的前缀上，快慢两向恰好对调。耦合层则两头各一次前向，训练采样对称。这一处差别，选型时常常比表达力更要紧。

4.5.7 流的代价清单与去向

精确似然不是白来的。把全节的账合在一处，四项。

其一，架构约束。可逆与行列式可解析写进结构，代价已在 4.5.4 节的警示框立账：维数守恒、常用组件出局、单层保守。深度与交替结构能补，但同等参数量下可逆网络的拟合上限一般偏低。

其二，数值稳定。exp(s) 过大则 y_B 溢出、过小则梯度消失；对数行列式与密度一律在 log 域累加（式 4.5-6、4.5-7），s 的幅值常加软限制。工程上再配ActNorm(activation normalization)一类可逆的逐通道仿射归一化，以数据驱动的初始化稳住各层尺度（Kingma & Dhariwal, 2018）——它本身就是一次行列式已知的小变换，不破坏精确性。

其三，离散数据。变量替换是连续密度的定理；像素、词、原子类型都是离散量。图像流的办法是去量化(dequantization)：给整数值加连续噪声嵌入实数空间，并在似然里扣除相应的体积修正。分子更棘手：原子类型与键型是类别变量，图又离散且不定长。GraphAF 的处置是每维类别配一个条件高斯——从流中采出连续标量，按所落区间离散成类别，类别概率即高斯在该区间上的积分；既守住流的可逆框架，又把离散化显式写进密度（4.6 节展开）。

其四，方向成本。两个方向都要解析、都要高效。耦合层天生对称；自回归流一头并行一头串行，采样慢是结构性短板，只能靠缓存与蒸馏缓解。

小结。本节把流模型的数学立了起来：概率质量守恒给出变量替换公式，雅可比行列式量度体积缩放，深流按层分解行列式；任意网络算不动行列式，耦合层与自回归流以结构换解析，精确似然由此到手；代价是维数守恒、组件受限与数值纪律。4.6 节把自回归流装上 4.2 节的图骨架，配上价约束掩码与预训练—微调范式，得到 GraphAF——本节数学的第一次分子级实战。