A13 · 第 2 章 · 课程规划页
表示探测与机制可解释性
本章研究表示探测与机制可解释性。内容依次处理激活探针、线性可分信息与因果干预、注意力头、神经回路与特征可视化、多义特征、探针偏差与机制验证。
- 所在 Part
- 第一编 解释与归因
- 预计学习
- 40 分钟
- 建设状态
- 已规划，尚无正式正文
计划实验
本章未登记独立交互实验；定义、公式和例题仍按下列提纲规划。
LEARNING OBJECTIVES
完成本章后应能
- 01准确说明激活探针、线性可分信息与因果干预。
- 02完成注意力头、神经回路与特征可视化所需的推导、证明或算法。
- 03使用计算、例题或反例检验多义特征、探针偏差与机制验证。
PLANNED SECTIONS
计划章节结构
- 01
激活探针、线性可分信息与因果干预
界定激活探针、线性可分信息与因果干预，明确使用的条件、主要结论与可复核步骤。
- 02
注意力头、神经回路与特征可视化
推导注意力头、神经回路与特征可视化，明确使用的条件、主要结论与可复核步骤。
- 03
多义特征、探针偏差与机制验证
检验多义特征、探针偏差与机制验证，明确使用的条件、主要结论与可复核步骤。
计划定义
激活探针、线性可分信息与因果干预：对象、记号与前提
围绕激活探针、线性可分信息与因果干预列出主要对象、符号、前提与定义边界。
计划公式
注意力头、神经回路与特征可视化：关系、判据与可复核步骤
把注意力头、神经回路与特征可视化整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
计划例题
多义特征、探针偏差与机制验证：案例、反例与核验
围绕多义特征、探针偏差与机制验证给出明确输入、前提或数据，逐步分析并用反例、误差、守恒量或边界条件复核。
计划练习
表示探测与机制可解释性：定义、关系与边界综合练习
联结激活探针、线性可分信息与因果干预、注意力头、神经回路与特征可视化与多义特征、探针偏差与机制验证，分别检验定义辨析、主要步骤和适用边界。
关键词
表示探测、机制可解释性、第一编 解释与归因、可解释性、不确定性、对齐与安全