在非对称检索任务中,带提示/指令的嵌入模型可能连简单任务指令都无法可靠遵循,尤其当评估包含查询侧干扰物(query-side distractors)时;作者假设这与当前嵌入模型的训练设置和评估方式有关,并报告加入查询侧干扰物进行微调可带来显著改善,且对其他任务影响很小。
值得关注:如果指令在干扰条件下失效,仅靠“带指令的检索提示”可能高估嵌入模型的任务可控性。 训练/评估分布与真实查询中的干扰因素是否匹配,可能是影响指令遵循的关键变量。 与既有“模型是否真正遵循/检索到目标”的脉络相关:已有卡片…