One Forth
A07人工智能

序列模型、注意力与 Transformer

One Forth

循环网络、注意力、Transformer、序列训练与长序列计算。

3 编 · 6 章

开始本册

目录

6 章

第一编 序列表示

  1. 01

    循环网络、门控单元与状态传播

  2. 02

    序列损失、教师强制与解码

第二编 注意力机制

  1. 03

    缩放点积注意力与掩码

  2. 04

    多头注意力与位置表示

第三编 Transformer 与综合复习

  1. 05

    编码器、解码器与 Transformer 架构

  2. 06

    长序列、效率与 Transformer 综合复习

先修教材

相关教材

参考资料