论文与标准

A Simple Framework for Contrastive Learning of Visual Representations

提出 SimCLR,对数据增强、投影头、批内负样本和温度化对比目标进行系统实验。

Ting Chen, Simon Kornblith, Mohammad Norouzi, Geoffrey Hinton · 2020 · Proceedings of the 37th International Conference on Machine Learning

阅读前提

教材中的引用位置

  1. A08 · 第 1 章 表示学习目标、相似度与不变性
  2. A08 · 第 2 章 度量学习、孪生网络与三元组损失
  3. A08 · 第 3 章 对比学习、负样本与信息瓶颈
  4. A08 · 第 5 章 跨模态对齐与预训练迁移
  5. A08 · 第 6 章 表示质量、坍塌与自监督学习综合复习

官方来源