知识卡片：Embodied.cpp：面向异构机器人的具身AI模型可移植推理运行时

一句话结论

Embodied.cpp 是一个便携的 C++ 推理运行时，通过五层架构和延迟优先的融合推理，使视觉‑语言‑动作（VLA）模型和世界‑动作模型（WAM）能够在异构机器人上高效部署，任务成功率达到 100%（HY‑VLA）和 91%（pi0.5），WAM 块内存从 312.2 MiB 降至 88.1 MiB。

事件概述或研究问题

具身 AI 模型（VLA 和 WAM）的实际部署仍碎片化地依赖模型特定的 Python 栈、后端假设和机器人端胶水代码，尤其在异构边缘设备上。现有推理运行时主要面向请求‑响应服务，不能满足具身部署的运行契约：闭环控制内的多速率执行、异构硬件上的延迟优先 batch‑1 推理、以及超越固定 token I/O 的可扩展具身接口。该论文提出 Embodied.cpp 以填补这一空白。

方法/产品要点

• 编程语言与定位：便携的 C++ 推理运行时，面向具身 AI 模型。
• 五层架构：输入适配器、序列构建器、骨干执行、头插件、部署适配器。
• 关键特性：
  • 模块化多速率执行
  • 延迟优先的融合推理
  • 可扩展的算子与 I/O 支持
  • 统一后端抽象，可在异构设备、机器人、模拟器间部署

主要结果或产业意义

• VLA 模型评估：HY‑VLA 闭环执行任务成功率 100.0%，pi0.5 为 91.0%。
• WAM 基准测试：使用 LingBot‑VA Transformer 块，内存从 312.2 MiB 降至 88.1 MiB（约减少 72%）。
• 意义：在不降低精度的前提下显著提升部署效率，支持多种具身模型架构。

为什么重要

现有推理运行时（如面向大语言模型的框架）难以满足具身 AI 对闭环控制、多速率和异构硬件的特殊需求。Embodied.cpp 首次系统化地提取了 VLA 与 WAM 的共享执行路径，并提供统一 C++ 后端，使研究人员和工程师能够跨模型、跨硬件、跨机器人快速部署，减少碎片化胶水代码。

局限与不确定性

待核实（论文摘要未提及明显局限或不确定性，例如在更多模型或极端低功耗设备上的表现等）。

可用于图书/PPT/简报的角度

• 跨模型统一运行时：如何用一个 C++ 运行时支持 VLA（如 HY‑VLA、pi0.5）和 WAM，展示架构设计。
• 延迟优先 vs. 吞吐优先：与云端 LLM 推理对比，强调机器人场景中 batch‑1 和闭环控制的重要性。
• 异构机器人部署：从 PC 到 Jetson 等边缘设备，通过一层后端抽象实现“编写一次，到处运行”。
• 内存优化案例：WAM 块内存降低 72% 的具体实现思路（待原文进一步展开）。

原始材料

• 论文标题：Embodied.cpp: A Portable Inference Runtime of Embodied AI Models on Heterogeneous Robots
• arXiv ID：2607.02501v1
• 作者：Ling Xu, Chuyu Han, Borui Li, Hao Wu, Shiqi Jiang, Ting Cao, Chuanyou Li, Sheng Zhong, Shuai Wang
• 发布时间：2026-07-02
• 分类：cs.RO, cs.CV, cs.OS
• URL：https://arxiv.org/abs/2607.02501v1