AI消息速览

你的提示应做得更多:嵌入模型中的检索指令效应

事件日期 2026-10-07 · 学术前沿 · 已接受

事件日期2026-10-07
信息日期2026-10-07
入库日期2026-10-08
通道学术前沿
状态已接受
来源arXiv 论文

知识卡片:你的提示应做得更多:嵌入模型中的检索指令效应

一句话结论

在非对称检索任务中,带提示/指令的嵌入模型可能连简单任务指令都无法可靠遵循,尤其当评估包含查询侧干扰物(query-side distractors)时;作者假设这与当前嵌入模型的训练设置和评估方式有关,并报告加入查询侧干扰物进行微调可带来显著改善,且对其他任务影响很小。

事件概述或研究问题

  • 背景:prompted embedding models 近期受到更多关注,尤其在检索场景中,检索提示会包含较详细的检索指令。
  • 已有若干新数据集和研究表明:当前嵌入模型常常难以可靠遵循这类指令。
  • 本文关注机制:指令究竟如何影响非对称检索任务中的查询表示。
  • 核心问题:当评估中加入查询侧干扰物时,模型是否仍能遵循简单任务指令;以及训练/评估设置是否导致失败。

方法/产品要点

  • 研究设置:非对称检索任务;查询侧提供指令;评估中引入 query-side distractors。
  • 作者对失败行为提出假设:由当前嵌入模型的训练设置及其评估方式驱动。
  • 干预方式:使用加入查询侧干扰物的数据进行微调。
  • 具体模型、数据集、基线、提示模板、干扰物构造方式、训练超参、评价指标、统计检验:待核实(材料仅提供摘要)。

主要结果或产业意义

  • 结果一:在评估包含查询侧干扰物时,模型可能无法遵循即使简单的任务指令。
  • 结果二:作者报告,加入查询侧干扰物进行微调后,性能有显著改善,且对其他任务的影响很小。
  • 产业意义(据摘要推断,具体幅度待核实):检索嵌入模型的指令遵循能力不能只在无干扰条件下评估;部署和评测检索系统时,应把查询侧干扰物纳入鲁棒性测试,并考虑用此类数据微调。

为什么重要

  • 如果指令在干扰条件下失效,仅靠“带指令的检索提示”可能高估嵌入模型的任务可控性。
  • 训练/评估分布与真实查询中的干扰因素是否匹配,可能是影响指令遵循的关键变量。
  • 与既有“模型是否真正遵循/检索到目标”的脉络相关:已有卡片分别关注 VLA 具身推理忠实性、LLM 分子数值逐字检索、LLM 量化幻觉等;本条的增量在于把问题定位到嵌入模型的检索指令与非对称检索,并指出 query-side distractors 可作为暴露失败的条件、加入此类干扰物微调可作为缓解路径。

局限与不确定性

  • 仅基于摘要,未获取全文;论文的具体实验设计、模型范围、数据集、指标和效应量均待核实。
  • “query-side distractors”的具体定义与构造方式待核实。
  • “显著改善”和“对其他任务影响很小”的统计细节、任务范围和泛化性待核实。
  • 作者假设“训练设置和评估驱动该行为”是否被完整验证、是否有替代解释,待核实。
  • 是否开源代码/模型/数据,待核实。
  • 来源未列出正式英文关键词列表,相关英文术语需以原文为准。

可用于图书/PPT/简报的角度

  • “提示不是装饰”:检索指令在干扰条件下可能失效,提示工程需要鲁棒性视角。
  • “评测盲区”:检索嵌入模型的评估如果不加查询侧干扰物,可能掩盖指令遵循失败。
  • “训练数据决定指令遵循”:用带干扰物的查询侧数据微调,可能是低成本改善路径。
  • “任务泛化权衡”:改善某类检索指令遵循时,是否影响其他任务,是部署前必须检查的问题。
  • “从模型能力到系统可靠性”:嵌入模型在真实检索系统中的行为,取决于训练、提示和评估三者是否一致。

原始材料

  • 英文标题:Your Prompt Should Do More: Effects of Retrieval Instructions in Embedding Models
  • 作者:Amanda Myntti, Jenna Kanerva, Veronika Laippala, Filip Ginter
  • arXiv ID:2610.10508v1
  • 发布/更新时间:2026-10-07T17:51:46Z(发布与更新相同)
  • 主类别:cs.CL;分类:cs.CL
  • 英文关键词:待核实(来源未列出正式关键词;标题/摘要中出现的英文主题词包括 retrieval instructions、prompted embedding models、asymmetric retrieval、query-side distractors、fine-tuning)
  • 原始来源:https://arxiv.org/abs/2610.10508v1
  • PDF:https://arxiv.org/pdf/2610.10508v1
  • 英文摘要原文(来源材料):Prompted embedding models have recently received increasing attention, particularly for retrieval, where detailed retrieval instructions are provided as part of the retrieval prompt. Several new datasets and studies have examined this setting, showing that the current embedding models often struggle to follow such instructions reliably. In this paper, we study the mechanism of how instructions actually affect the representations of retrieval queries in asymmetric retrieval tasks. We show that models can fail to follow even simple task instructions when query-side distractors are included in the evaluation. We hypothesize that this behavior is driven by the training setup of current embedding models and their evaluation, and show that fine-tuning with added query-side distractors leads to substantial improvements, with minimal effect on other tasks.

发现内容有误?

免登录提交,管理员审核并完成修正后才会公开修订说明。

值得关注

如果指令在干扰条件下失效,仅靠“带指令的检索提示”可能高估嵌入模型的任务可控性。 训练/评估分布与真实查询中的干扰因素是否匹配,可能是影响指令遵循的关键变量。 与既有“模型是否真正遵循/检索到目标”的脉络相关:已有卡片分别关注 VLA 具身推理忠实性、LLM 分子数值逐字检索、LLM 量化幻觉等;本条的增量在于把问题定位到嵌入模型的检索指令与非对称检索,并…

相关主题

对应的教材知识点

根据卡片内容自动匹配,点击查看已审核的教材讲解: