知识卡片：当机器人听错我们的话：语音控制具身AI的安全风险映射

一句话结论

自动语音识别（ASR）错误可能使具身AI（EAI）模型接受并执行有害指令，从而显著降低其安全性；自动纠错能在部分情况下降低风险，但并非总是有效。

事件概述或研究问题

研究问题：用户语音输入中的ASR错误，是否会导致具身AI模型产生不安全输出？

方法概要：作者模拟ASR错误，并将其与现有安全基准（SafeAgentBench和POEX）结合，评估不同类型的语音识别错误对具身AI安全性的影响。分析维度包括错误是否保留语义结构、是否增加有害歧义、是否削弱模型拒答行为，以及是否允许不安全计划被生成和执行。

方法/产品要点

• 研究对象：语音控制的具身AI（EAI）模型。
• 错误注入：模拟ASR识别错误，而非使用真实语音识别系统。
• 评估基准：使用SafeAgentBench和POEX两个现有安全基准。
• 分析路径：从错误类型到安全后果，考察有害指令被接受、拒答被绕过、不安全计划生成与执行等环节。
• 附加测试：尝试对ASR错误进行自动纠正，观察是否能降低风险。

主要结果或产业意义

• ASR错误会导致有害指令被EAI模型接受并执行，降低系统安全性。
• 部分ASR错误保留了指令的语义结构，但增加了“有害歧义”。
• 另一类错误会削弱模型的拒答（refusal）行为，使原本应被拒绝的不安全计划得以生成和执行。
• 自动纠正ASR错误在某些情况下能降低风险，但并非总是有效。
• 总体结论：ASR错误对具身AI构成显著安全风险。

为什么重要

语音交互是具身AI（如家用机器人、服务机器人）最自然的控制方式之一。此前安全研究多关注指令本身是否恶意，而本工作提示：即使是非恶意的语音识别错误，也可能“意外”触发不安全行为。这条增量信息将ASR噪声引入具身AI安全评估，与已有卡片中“VLA模型忠实性”“异构机器人部署”形成互补，指向真实部署中语音链路的脆弱性。

局限与不确定性

• 仅基于摘要；具体实验规模、错误模拟方式、基准细节、量化结果尚未获取完整正文，待核实。
• 是否涵盖真实世界ASR系统的错误分布、噪声环境、口音差异，待核实。
• 自动纠错的具体方法及失败场景，待核实。
• 本文发表于2026-08-28，ArXiv编号为2608.28518v1；该编号日期特征与常规不同，请注意核实。

可用于图书/PPT/简报的角度

• 标题化表达：“机器人听错话，后果有多严重？”
• 安全链条视角：语音识别错 → 语义歧义/拒答绕过 → 危险行动。
• 三类风险模式：有害歧义、拒答削弱、纠错失效。
• 对语音交互产品设计的启示：不能只做“听懂”，还要做“安全地听不懂”。

与既有脉络的关系

• 与“Embodied.cpp”卡片不同：本卡片关注语音输入端ASR错误对安全的影响，而非推理运行时性能。
• 与“视觉-语言-行动模型是否表里如一？”卡片相关但更具体：后者讨论VLA模型推理的忠实性，本卡片聚焦ASR错误导致的“输入失真”如何破坏安全拒答，可视为对具身AI安全评估维度的扩展。

原始材料

• 英文标题：When Robots Mishear Us: Mapping the Safety Risks of Voice-Controlled Embodied AI
• 英文关键词：automatic speech recognition, embodied AI, safety, ASR errors, SafeAgentBench, POEX
• 来源：arXiv:2608.28518v1 [cs.AI]
• URL: https://arxiv.org/abs/2608.28518v1