A10 / advanced

强化学习

强化学习围绕第一编 决策过程与价值、第二编 控制与策略、第三编 高级强化学习与综合复习建立连续章节顺序。

结构
3 编 · 6
适合读者
适合完成相关本科基础课程、需要进入高级理论与计算方法的读者。
开始本册

BEFORE READING

先修与记号

本册对象

从 Markov 决策过程进入价值方法、策略优化、模型学习和离线强化学习。

先修教材

符号约定

  • 本册在首次使用时定义强化学习专用符号,并区分标量、向量、算子与单位。
  • 同一符号出现多种约定时明确命名空间、假设和适用章节。

CONTENTS

完整目录

PART 01

第一编 决策过程与价值

第一编 决策过程与价值组织Markov 决策过程与 Bellman 方程、动态规划、Monte Carlo 与时序差分,形成连续的学习单元。

  1. 01

    Markov 决策过程与 Bellman 方程

    Markov 决策过程与 Bellman 方程:形式化状态、动作、转移、奖励和折扣回报,推导策略价值、最优价值与 Bellman 方程。

    阅读本章
  2. 02

    动态规划、Monte Carlo 与时序差分

    动态规划、Monte Carlo 与时序差分:比较模型已知时的动态规划、完整回报的 Monte Carlo 与自举的时序差分,并分析偏差—方差。

    阅读本章
PART 02

第二编 控制与策略

第二编 控制与策略组织Q-learning、探索与函数逼近、策略梯度、actor–critic 与优势估计,形成连续的学习单元。

  1. 03

    Q-learning、探索与函数逼近

    Q-learning、探索与函数逼近:推导离策略 Q-learning 更新,比较探索策略与经验回放,并解释函数逼近下的不稳定来源。

    阅读本章
  2. 04

    策略梯度、actor–critic 与优势估计

    策略梯度、actor–critic 与优势估计:从对数导数技巧推导策略梯度,用基线和优势降低方差,并组装 actor–critic 更新。

    阅读本章
PART 03

第三编 高级强化学习与综合复习

第三编 高级强化学习与综合复习组织基于模型、离线与多智能体强化学习、稳定性、评估与强化学习综合复习,形成连续的学习单元。

  1. 05

    基于模型、离线与多智能体强化学习

    基于模型、离线与多智能体强化学习:比较学习环境模型、固定数据集策略优化与多智能体交互,重点分析模型偏差、分布外动作和非平稳性。

    阅读本章
  2. 06

    稳定性、评估与强化学习综合复习

    稳定性、评估与强化学习综合复习:串联 MDP、价值估计、Q-learning、策略梯度和离线方法,以多种子、置信区间和离线评估检查结论。

    阅读本章

综合练习

  • 每章安排定义辨析、推导计算和结果核验练习。
  • 本册末章安排跨 Part 综合题,并保留可复算的解题检查点。

相关教材