A07 · 第 1 章 · 课程规划页

循环网络、门控单元与状态传播

本章研究循环网络、门控单元与状态传播。内容依次处理隐藏状态递推与时间展开、LSTM 门控、GRU 更新与长期依赖、梯度穿越时间、截断反传与状态漂移。

所在 Part
第一编 序列表示
预计学习
40 分钟
建设状态
已规划,尚无正式正文

预备知识

本章没有登记站内章节先修,可按本册顺序进入。

计划实验

本章未登记独立交互实验;定义、公式和例题仍按下列提纲规划。

LEARNING OBJECTIVES

完成本章后应能

  1. 01准确说明隐藏状态递推与时间展开。
  2. 02完成LSTM 门控、GRU 更新与长期依赖所需的推导、证明或算法。
  3. 03使用计算、例题或反例检验梯度穿越时间、截断反传与状态漂移。

PLANNED SECTIONS

计划章节结构

  1. 01

    隐藏状态递推与时间展开

    界定隐藏状态递推与时间展开,明确使用的条件、主要结论与可复核步骤。

  2. 02

    LSTM 门控、GRU 更新与长期依赖

    推导LSTM 门控、GRU 更新与长期依赖,明确使用的条件、主要结论与可复核步骤。

  3. 03

    梯度穿越时间、截断反传与状态漂移

    检验梯度穿越时间、截断反传与状态漂移,明确使用的条件、主要结论与可复核步骤。

计划定义

  1. 隐藏状态递推与时间展开:对象、记号与前提

    围绕隐藏状态递推与时间展开列出主要对象、符号、前提与定义边界。

计划公式

  1. LSTM 门控、GRU 更新与长期依赖:关系、判据与可复核步骤

    把LSTM 门控、GRU 更新与长期依赖整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。

计划例题

  1. 梯度穿越时间、截断反传与状态漂移:案例、反例与核验

    围绕梯度穿越时间、截断反传与状态漂移给出明确输入、前提或数据,逐步分析并用反例、误差、守恒量或边界条件复核。

计划练习

  1. 循环网络、门控单元与状态传播:定义、关系与边界综合练习

    联结隐藏状态递推与时间展开、LSTM 门控、GRU 更新与长期依赖与梯度穿越时间、截断反传与状态漂移,分别检验定义辨析、主要步骤和适用边界。

本章概念落点

以下位置是术语、搜索和知识图谱引用本计划章节时使用的稳定链接。

  1. 循环网络、LSTM 与 GRU用递归隐藏状态处理序列,并以门控机制缓解长期依赖中的梯度衰减。
  2. 序列建模根据顺序依赖分解联合概率或条件预测,处理可变长度输入与因果掩码。

关键词

循环网络、门控单元、状态传播、第一编 序列表示、序列模型、注意力与 Transformer