A07 · 第 6 章 · 课程规划页
长序列、效率与 Transformer 综合复习
本章研究长序列、效率与 Transformer 综合复习。内容依次处理注意力二次复杂度与稀疏近似、长上下文记忆、位置外推与检索干扰、训练解码错配、重复生成与长度偏置。
- 所在 Part
- 第三编 Transformer 与综合复习
- 预计学习
- 55 分钟
- 建设状态
- 已规划，尚无正式正文
计划实验
本章未登记独立交互实验；定义、公式和例题仍按下列提纲规划。
LEARNING OBJECTIVES
完成本章后应能
- 01准确说明注意力二次复杂度与稀疏近似。
- 02完成长上下文记忆、位置外推与检索干扰所需的推导、证明或算法。
- 03使用计算、例题或反例检验训练解码错配、重复生成与长度偏置。
PLANNED SECTIONS
计划章节结构
- 01
注意力二次复杂度与稀疏近似
界定注意力二次复杂度与稀疏近似，明确使用的条件、主要结论与可复核步骤。
- 02
长上下文记忆、位置外推与检索干扰
推导长上下文记忆、位置外推与检索干扰，明确使用的条件、主要结论与可复核步骤。
- 03
训练解码错配、重复生成与长度偏置
检验训练解码错配、重复生成与长度偏置，明确使用的条件、主要结论与可复核步骤。
计划定义
注意力二次复杂度与稀疏近似：对象、记号与前提
围绕注意力二次复杂度与稀疏近似列出主要对象、符号、前提与定义边界。
计划公式
长上下文记忆、位置外推与检索干扰：关系、判据与可复核步骤
把长上下文记忆、位置外推与检索干扰整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
计划例题
训练解码错配、重复生成与长度偏置：案例、反例与核验
围绕训练解码错配、重复生成与长度偏置给出明确输入、前提或数据，逐步分析并用反例、误差、守恒量或边界条件复核。
计划练习
长序列与效率与 Transformer：定义、关系与边界综合练习
联结注意力二次复杂度与稀疏近似、长上下文记忆、位置外推与检索干扰与训练解码错配、重复生成与长度偏置，分别检验定义辨析、主要步骤和适用边界。
关键词
长序列、效率、Transformer、第三编 Transformer 与综合复习、序列模型、注意力与 Transformer