A08 / advanced
表示学习与自监督学习
表示学习与自监督学习围绕第一编 表示与度量、第二编 自监督目标、第三编 预训练与综合复习建立连续章节顺序。
- 结构
- 3 编 · 6 章
- 适合读者
- 适合完成相关本科基础课程、需要进入高级理论与计算方法的读者。
BEFORE READING
先修与记号
本册对象
研究表征空间、对比学习、掩码建模和跨模态预训练。
符号约定
- 本册在首次使用时定义表示学习与自监督学习专用符号，并区分标量、向量、算子与单位。
- 同一符号出现多种约定时明确命名空间、假设和适用章节。
CONTENTS
完整目录
第一编 表示与度量
第一编 表示与度量组织表示学习目标、相似度与不变性、度量学习、孪生网络与三元组损失，形成连续的学习单元。
第二编 自监督目标
第二编 自监督目标组织对比学习、负样本与信息瓶颈、掩码预测与上下文建模，形成连续的学习单元。
第三编 预训练与综合复习
第三编 预训练与综合复习组织跨模态对齐与预训练迁移、表示质量、坍塌与自监督学习综合复习，形成连续的学习单元。
综合练习
- 每章安排定义辨析、推导计算和结果核验练习。
- 本册末章安排跨 Part 综合题，并保留可复算的解题检查点。