知识卡片：带障碍感知 Harness 的编码智能体用于安全机器人操作

一句话结论

SafeHarness 通过两个障碍感知 harness，让编码智能体在机器人操作中把“不得触碰障碍”从提示词约束转化为规划与接触执行中的优先级，报告达到 71.9% 任务成功率和 87.5% 避碰率。

事件概述或研究问题

论文关注编码智能体用于机器人操作时的安全性：语言模型把机器人控制器写成程序，这类智能体无需机器人特定训练即可操作机器人。但摘要指出，“这一范式是否安全”此前未被提出。

评估设置是每个任务同时给出一个操作目标和一个机器人不得触碰的障碍。结果显示，智能体追求目标时在多数情况下会碰到障碍，把任务完成当作唯一目标而忽视安全。摘要称，智能体在 traces 中确实会推理障碍，prompt 也已经禁止触碰，因此问题不在感知或指令，而在规划：安全约束从未成为优先级。

方法/产品要点

论文先将操作分解为路线阶段和接触密集时刻，以定位失败来源：

• 沿路线阶段：模型无法优先考虑安全约束，没有 clearing route 概念，也不会在所选路线不可行时重新规划。
• 接触时刻：模型不知道接触执行也受同一安全约束限制。

为此提出 SafeHarness，包含两个障碍感知 harness：

• Obstacle-aware route planning：把物体 grounding 为 bounding boxes，并将候选路线表示为 waypoint 序列；智能体先规划路线、验证路线、必要时重规划，然后才执行。
• Obstacle-aware contact execution：选择接触位置，使接触本身避开障碍。

主要结果或产业意义

按摘要，SafeHarness 达到：

• 71.9% 任务成功率；
• 87.5% 避碰率。

摘要称，这分别超过此前 SOTA 6.5% 和 27.0%；同时分别是同一智能体在没有 harnesses 时的 2.3× 和 1.5×。

产业意义方面，摘要显示编码智能体在机器人操作中已有免机器人特定训练的潜力，但安全约束不能只靠 prompt 声明；它需要进入路线规划、验证、重规划和接触位置选择等执行结构。更广泛的部署成本、鲁棒性和真实场景表现待核实。

为什么重要

这条材料的重要性在于把 LLM 编码智能体的能力问题推进到具身安全约束问题：任务完成率不等于安全，提示词里的禁止条款也不等于规划中的优先级。失败归因尤其关键：感知和指令不是主要问题，规划没有把约束当作目标才是问题。

与已有相关卡片（记忆、情感、上下文压缩等 LLM 智能体方向）相比，本条的增量在于：不讨论记忆系统、情感架构或上下文压缩，而是聚焦机器人操作中的安全约束、路线/接触分解，以及外挂式 obstacle-aware harness。它提示：智能体安全可能需要外部结构化模块来补足模型自身的约束优先级。

局限与不确定性

• 实验在仿真还是真实机器人、任务数量、障碍物类型、机器人平台和感知来源，材料未说明，待核实。
• “previous SOTA”具体方法、基线设置和评价协议，摘要未给出，待核实。
• 安全性主要体现为“不得触碰障碍”和避碰率；是否覆盖动态障碍、多障碍、接触力/稳定性等安全维度，待核实。
• 71.9% 成功率意味着仍有失败；失败模式分布、失败是否与安全约束冲突，待核实。
• harness 是否增加计算开销、是否需要精确 bounding box、对感知误差的鲁棒性，待核实。
• 统计显著性、重复次数和置信区间，材料未说明，待核实。

可用于图书/PPT/简报的角度

• 编码智能体做机器人控制：能力评价与安全评价必须分开。
• “prompt 已禁止”不等于“规划会优先满足”：安全约束需要机制化。
• 将操作拆成路线阶段和接触阶段，有助于定位安全失败来源。
• Harness 设计模式：用外部结构化模块给模型补上约束优先级。
• 指标双轨：任务成功率与避碰率并重，避免只看任务完成。
• 具身智能体安全的三层归因：感知、指令、规划，其中规划优先级是关键。

原始材料

• 英文标题：Coding Agents with an Obstacle-Aware Harness for Safe Robot Manipulation
• 英文关键词：coding agents; robot manipulation; safety constraint; obstacle-aware harness; SafeHarness; obstacle-aware route planning; obstacle-aware contact execution; collision avoidance
• arXiv ID：2609.20822v1
• 作者：Bingxin Xu, Yuzhang Shang, Zhen Dong, Emilio Ferrara
• 类别：Primary cs.RO；cs.RO, cs.AI, cs.CL, cs.CV
• 发表/更新：2026-09-17T17:59:58Z
• Abstract URL：https://arxiv.org/abs/2609.20822v1
• PDF URL：https://arxiv.org/pdf/2609.20822v1