A09 / advanced

生成模型

生成模型围绕第一编 似然与潜变量、第二编 隐式与可逆生成、第三编 扩散模型与综合复习建立连续章节顺序。

结构
3 编 · 6
适合读者
适合完成相关本科基础课程、需要进入高级理论与计算方法的读者。
开始本册

BEFORE READING

先修与记号

本册对象

统一自回归、潜变量、对抗、流和扩散模型的概率建模视角。

先修教材

符号约定

  • 本册在首次使用时定义生成模型专用符号,并区分标量、向量、算子与单位。
  • 同一符号出现多种约定时明确命名空间、假设和适用章节。

CONTENTS

完整目录

PART 01

第一编 似然与潜变量

第一编 似然与潜变量组织自回归生成与序列似然、变分自编码器与证据下界,形成连续的学习单元。

  1. 01

    自回归生成与序列似然

    自回归生成与序列似然:按变量顺序分解联合分布,计算教师强制下的精确似然,并比较采样顺序、暴露偏差和生成成本。

    阅读本章
  2. 02

    变分自编码器与证据下界

    变分自编码器与证据下界:从边缘似然推导证据下界和重参数化梯度,解释重建项、KL 项、后验塌缩与潜空间插值。

    阅读本章
PART 02

第二编 隐式与可逆生成

第二编 隐式与可逆生成组织生成对抗网络与散度最小化、正规化流与可逆变换,形成连续的学习单元。

  1. 03

    生成对抗网络与散度最小化

    生成对抗网络与散度最小化:把生成器和判别器写成极小极大博弈,分析散度、模式崩溃、梯度饱和与对抗训练评价。

    阅读本章
  2. 04

    正规化流与可逆变换

    正规化流与可逆变换:用变量替换公式组合可逆映射和 Jacobian 行列式,在精确似然、采样效率与架构约束之间权衡。

    阅读本章
PART 03

第三编 扩散模型与综合复习

第三编 扩散模型与综合复习组织得分匹配、扩散过程与反向采样、生成质量、覆盖与生成模型综合复习,形成连续的学习单元。

  1. 05

    得分匹配、扩散过程与反向采样

    得分匹配、扩散过程与反向采样:由逐步加噪过程构造去噪训练目标,连接噪声预测与得分匹配,并比较反向采样步数和误差。

    阅读本章
  2. 06

    生成质量、覆盖与生成模型综合复习

    生成质量、覆盖与生成模型综合复习:统一比较自回归、VAE、GAN、流和扩散的似然、样本质量、覆盖、推理代价与可验证边界。

    阅读本章

综合练习

  • 每章安排定义辨析、推导计算和结果核验练习。
  • 本册末章安排跨 Part 综合题,并保留可复算的解题检查点。

相关教材