迁移学习与微调
教材《人工智能导论》4.2.2 · 已审核
通俗解释
迁移学习将源任务获得的表示或参数用于目标任务,在目标数据稀缺时减少从零训练的需求。微调范围与源目标差异会影响成本和效果。
例子
用已有图像模型作为起点,只用少量月球地貌图片适配新任务。
容易混淆
源领域有效的特征不一定能无损迁移到所有目标领域。
检查理解
目标数据很少时,为何先用预训练模型?
查看参考答案
预训练模型已有可复用表示,可减少从零训练的数据和计算需求;仍要验证源任务与目标任务的差异。
教材《人工智能导论》4.2.2 · 已审核
迁移学习将源任务获得的表示或参数用于目标任务,在目标数据稀缺时减少从零训练的需求。微调范围与源目标差异会影响成本和效果。
用已有图像模型作为起点,只用少量月球地貌图片适配新任务。
源领域有效的特征不一定能无损迁移到所有目标领域。
目标数据很少时,为何先用预训练模型?
预训练模型已有可复用表示,可减少从零训练的数据和计算需求;仍要验证源任务与目标任务的差异。