章节大纲
- 01
循环状态如何压缩可变长度序列历史
- 02
时间展开图与跨时间反向传播
- 03
普通 RNN 的梯度消失和长期依赖
- 04
LSTM 输入门、遗忘门和输出门的作用
- 05
GRU 的更新门、重置门及参数权衡
- 06
掩码、截断反传与序列批处理实践
CONCEPT OUTLINE / recurrent-networks-lstm-gru
用递归隐藏状态处理序列,并以门控机制缓解长期依赖中的梯度衰减。
循环状态如何压缩可变长度序列历史
时间展开图与跨时间反向传播
普通 RNN 的梯度消失和长期依赖
LSTM 输入门、遗忘门和输出门的作用
GRU 的更新门、重置门及参数权衡
掩码、截断反传与序列批处理实践