CONCEPT OUTLINE / recurrent-networks-lstm-gru

循环网络、LSTM 与 GRU

用递归隐藏状态处理序列,并以门控机制缓解长期依赖中的梯度衰减。

105 分钟正文计划中难度 4/5

章节大纲

  1. 01

    循环状态如何压缩可变长度序列历史

  2. 02

    时间展开图与跨时间反向传播

  3. 03

    普通 RNN 的梯度消失和长期依赖

  4. 04

    LSTM 输入门、遗忘门和输出门的作用

  5. 05

    GRU 的更新门、重置门及参数权衡

  6. 06

    掩码、截断反传与序列批处理实践

知识关系