AI消息速览

← 返回学习路径

跨模态知识迁移

教材《人工智能导论》4.2.2 / 内部第3点 · 已审核

通俗解释

跨模态迁移尝试把一种模态学到的知识用于另一模态,但不同模态的表示需要对齐,并用目标任务数据验证效果。

例子

把文本模型学到的概念表示用于图文任务时,还要训练图像特征与文本表示的对齐。

容易混淆

一种模态学到的表示不能无损搬到另一模态,仍需对齐和验证。

检查理解

用自己的话解释“跨模态知识迁移”在“任务适配:模型迁移”中的作用,并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。

查看参考答案

要点:跨模态迁移尝试把一种模态学到的知识用于另一模态,但不同模态的表示需要对齐,并用目标任务数据验证效果。 示例:把文本模型学到的概念表示用于图文任务时,还要训练图像特征与文本表示的对齐。

询问这个知识点