对比学习是什么
对比学习(Contrastive Learning)是自监督学习中最成功的方法之一。其核心思想是:在表示空间中让语义相似的样本(正例对)相互靠近,让语义不同的样本(负例对)相互远离。通过这种方式,模型无需人工标注即可学到高质量的语义表征。
代表性方法
SimCLR(Google, 2020):通过图像增强生成同一图像的两个视图作为正例,批次内其他图像作为负例,使用 NT-Xent 损失函数训练。MoCo:引入动量编码器和队列机制,解耦批次大小与负例数量的关系。CLIP(OpenAI, 2021):将对比学习扩展到图文跨模态领域。
InfoNCE 损失
对比学习的核心损失函数是 InfoNCE(Noise Contrastive Estimation)。给定一个正例对和 K 个负例,InfoNCE 的目标是最大化正例对的相似度同时最小化负例对的相似度。温度参数 τ 控制分布的平滑程度。
应用领域
对比学习已广泛应用于图像表征预训练、句子嵌入、跨模态检索、推荐系统、图神经网络等领域。