A13 / research
可解释性、不确定性、对齐与安全
可解释性、不确定性、对齐与安全围绕第一编 解释与归因、第二编 不确定性与稳健性、第三编 对齐与安全综合复习建立连续章节顺序。
- 结构
- 3 编 · 6 章
- 适合读者
- 适合准备阅读研究文献并需要统一记号、方法和边界条件的读者。
BEFORE READING
先修与记号
本册对象
研究解释方法、校准、分布外风险、对齐目标和安全评估。
符号约定
- 本册在首次使用时定义可解释性、不确定性、对齐与安全专用符号，并区分标量、向量、算子与单位。
- 同一符号出现多种约定时明确命名空间、假设和适用章节。
CONTENTS
完整目录
第一编 解释与归因
第一编 解释与归因组织特征归因、显著性与反事实、表示探测与机制可解释性，形成连续的学习单元。
第二编 不确定性与稳健性
第二编 不确定性与稳健性组织校准、分布外检测与选择性预测、鲁棒性、对抗攻击与防御评估，形成连续的学习单元。
第三编 对齐与安全综合复习
第三编 对齐与安全综合复习组织对齐目标、反馈与奖励建模、安全评测、系统边界与治理综合复习，形成连续的学习单元。
综合练习
- 每章安排定义辨析、推导计算和结果核验练习。
- 本册末章安排跨 Part 综合题，并保留可复算的解题检查点。