自监督学习
教材《人工智能导论》4.2.1 · 已审核
通俗解释
自监督学习从数据本身构造学习信号,以无标签数据学习可迁移的表征。掩码预测和对比学习是教材介绍的代表路线。
例子
把句子中的某个词遮住,让模型根据其余词预测被遮住的内容。
容易混淆
自监督不等于完全没有训练目标。
检查理解
没有人工标签时,文本掩码任务的目标从哪里来?
查看参考答案
监督目标来自原始数据本身被隐藏的部分,不需要额外人工为每个样本标注类别。
教材《人工智能导论》4.2.1 · 已审核
自监督学习从数据本身构造学习信号,以无标签数据学习可迁移的表征。掩码预测和对比学习是教材介绍的代表路线。
把句子中的某个词遮住,让模型根据其余词预测被遮住的内容。
自监督不等于完全没有训练目标。
没有人工标签时,文本掩码任务的目标从哪里来?
监督目标来自原始数据本身被隐藏的部分,不需要额外人工为每个样本标注类别。