A07 · 第 1 章 · 课程规划页
循环网络、门控单元与状态传播
本章研究循环网络、门控单元与状态传播。内容依次处理隐藏状态递推与时间展开、LSTM 门控、GRU 更新与长期依赖、梯度穿越时间、截断反传与状态漂移。
- 所在 Part
- 第一编 序列表示
- 预计学习
- 40 分钟
- 建设状态
- 已规划,尚无正式正文
预备知识
本章没有登记站内章节先修,可按本册顺序进入。
计划实验
本章未登记独立交互实验;定义、公式和例题仍按下列提纲规划。
LEARNING OBJECTIVES
完成本章后应能
- 01准确说明隐藏状态递推与时间展开。
- 02完成LSTM 门控、GRU 更新与长期依赖所需的推导、证明或算法。
- 03使用计算、例题或反例检验梯度穿越时间、截断反传与状态漂移。
PLANNED SECTIONS
计划章节结构
- 01
隐藏状态递推与时间展开
界定隐藏状态递推与时间展开,明确使用的条件、主要结论与可复核步骤。
- 02
LSTM 门控、GRU 更新与长期依赖
推导LSTM 门控、GRU 更新与长期依赖,明确使用的条件、主要结论与可复核步骤。
- 03
梯度穿越时间、截断反传与状态漂移
检验梯度穿越时间、截断反传与状态漂移,明确使用的条件、主要结论与可复核步骤。
计划定义
隐藏状态递推与时间展开:对象、记号与前提
围绕隐藏状态递推与时间展开列出主要对象、符号、前提与定义边界。
计划公式
LSTM 门控、GRU 更新与长期依赖:关系、判据与可复核步骤
把LSTM 门控、GRU 更新与长期依赖整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
计划例题
梯度穿越时间、截断反传与状态漂移:案例、反例与核验
围绕梯度穿越时间、截断反传与状态漂移给出明确输入、前提或数据,逐步分析并用反例、误差、守恒量或边界条件复核。
计划练习
循环网络、门控单元与状态传播:定义、关系与边界综合练习
联结隐藏状态递推与时间展开、LSTM 门控、GRU 更新与长期依赖与梯度穿越时间、截断反传与状态漂移,分别检验定义辨析、主要步骤和适用边界。
本章概念落点
以下位置是术语、搜索和知识图谱引用本计划章节时使用的稳定链接。
- 循环网络、LSTM 与 GRU用递归隐藏状态处理序列,并以门控机制缓解长期依赖中的梯度衰减。
- 序列建模根据顺序依赖分解联合概率或条件预测,处理可变长度输入与因果掩码。
关键词
循环网络、门控单元、状态传播、第一编 序列表示、序列模型、注意力与 Transformer