知识卡片：面向运动生成器的上下文安全过滤（CSF）

一句话结论

CSF 是一种免训练的安全过滤器，通过将自然语言安全规则锚定到生成器产生的安全/不安全参考轨迹上，并结合 CBF-QP 约束，在不牺牲良性动作的前提下大幅降低文本驱动运动生成器的危险事件率。

事件概述或研究问题

文本条件运动生成器可以产出可跟踪的全身运动，但它们缺乏“场景相关安全”概念：同一个动作指向物体还是指向人，其安全含义完全不同。现有防护手段要么只检查 prompt、要么需要标注运动数据、要么只施加几何约束，都没有直接处理“场景上下文如何改变运动含义”这一问题。本文提出 Contextual Safety Filtering（CSF）来填补这一空白。

方法/产品要点

• 免训练过滤器：不需要重新训练或微调生成器。
• 规则锚定机制：将自然语言安全规则落地为生成器产出的安全参考轨迹与不安全参考轨迹。
• 仿射安全值：对每条激活规则，由安全/不安全参考轨迹定义一个仿射安全值。
• CBF-QP 执行：通过“安全参考跟踪 CBF-QP”对该安全值施加约束。
• 多生成器验证：在四种不同架构的预训练生成器上测试。
• 真机演示：在真实 Unitree G1 机器人上展示完整系统。

主要结果或产业意义

• 在所有显式与场景触发的不安全案例中，CSF 都能激活预期规则。
• 危险事件率最多降低 90%。
• 同时保留 88%–100% 的良性运动。
• 在真实 Unitree G1 上成功阻止多种场景下的不安全运动，包括与人、与物体的交互。
• 产业意义：为文本驱动全身运动生成提供了一种可直接叠加的“场景感知安全层”，对服务机器人、人机共融场景尤为关键。

为什么重要

现有运动生成安全工作大多停留在 prompt 审核或几何约束层面，无法处理“同一动作因场景不同而安全含义反转”的问题。CSF 把安全规则与生成器自身的轨迹分布对齐，而不是外挂硬编码规则，因此更贴近生成器实际输出空间。与已有卡片中偏“监测/基准/滤波理论”的安全工作相比，本条提供的是面向运动生成与真机执行的上下文安全过滤机制，属于生成式机器人控制方向的安全增量。

局限与不确定性

• 论文摘要未给出跨场景泛化的定量边界（例如未见场景、未见规则下的表现），待核实。
• CBF-QP 的实时性与计算开销在复杂场景下的表现，摘要未提及，待核实。
• 安全/不安全参考轨迹的获取方式与人工依赖程度，摘要未展开，待核实。
• 真机实验的规模、场景数量与统计显著性，摘要未给出，待核实。
• 对非 Unitree G1 平台的迁移性，摘要未说明，待核实。

可用于图书/PPT/简报的角度

• “生成式运动 + 安全层”的两层架构：生成器负责多样性，CSF 负责场景安全。
• 安全规则从“文本”到“轨迹锚定”再到“QP 约束”的工程链路。
• 免训练安全过滤：为什么它比重新训练或 prompt 审核更适合部署。
• 真机 Unitree G1 演示：从仿真指标到实体机器人安全落地的桥梁。
• 与 prompt 审核、几何约束、标注数据方法的对比叙事。

与既有脉络的关系

已有卡片分别关注大语言模型在线安全监测、集成控制流滤波的数据同化、以及医疗 AI 安全边界基准。本条 CSF 延续“安全过滤/约束”这一脉络，但增量在于：把安全过滤从语言模型或通用滤波理论，推进到文本条件全身运动生成 + 真机执行的具体场景，并提出免训练、规则可锚定的 CBF-QP 实现路径。

原始材料

• Title: CSF: Contextual Safety Filtering for Motion Generators
• arXiv ID: 2610.12467v1
• Authors: Lizhi Yang, Yiling Hou, Yao Tang, Junheng Li, Daniel Weng, Blake Werner, Aaron D. Ames
• Published: 2026-10-08T17:59:50Z
• Primary category: cs.RO
• Categories: cs.RO, cs.LG
• Abstract URL: https://arxiv.org/abs/2610.12467v1
• PDF URL: https://arxiv.org/pdf/2610.12467v1
• Keywords: Contextual Safety Filtering; Motion Generators; CBF-QP; Text-conditioned Motion; Unitree G1