目录 概 主要内容 代码 Jiang Z., Chen T., Chen T. & Wang Z. Robust Pre-Training by Adversarial Contrastive Learning. NIPS, 2020. 概 本文介绍了一种利用对比学习进行对抗预训练的方法. 主要内容 思想是很简单的, 就是利用对比学习进行训练(样本的augumentation多一个\(\delta\)), 然后再通过此方法训练得到的参数进行finetune. 比较特别的是, 有三种预训练的方案:…