知识卡片:用 AI 智能体在仿真中教 Microduck 机器人行走
一句话结论
NVIDIA 展示了一套端到端工作流:由 AI 智能体(Hermes、Nemotron 3.5 Bolt、Astra)将一句提示词转化为仿真障碍赛道的搭建与训练计划,在 Isaac Sim/Isaac Lab 中用 4,096 个并行环境训练 Microduck 的感知与运动策略,并回到本地工作站做策略验证。
事件概述或研究问题
教学机器人通过障碍赛道,不只是训练一个“行走策略”。机器人需要感知周围环境、保持平衡,并在前方有障碍时调整动作。NVIDIA 技术博客以 Microduck 为参考机器人,串联起资产生成、环境搭建、物理仿真、策略训练与评估几个阶段,并提出问题:AI 智能体能否承担其中的规划与准备环节,让开发者专注于训练与验证?
方法/产品要点
- 规划阶段:在 NVIDIA RTX Spark 本地开发枢纽上,Hermes 与 NVIDIA Nemotron 3.5 Bolt 把描述障碍赛道与学习目标的提示词转成步骤化项目计划,内容包括任务、可用资源、预期产出与阶段划分;计划还涵盖环境构建、机器人准备、仿真、训练、验证与部署。
- 概念图与资产清单:本地图像生成模型产出赛道概念图,智能体分析图像并建立可复用资产清单(标识符、可见特征描述、裁剪参考图),并记录被遮挡或截断的部分,以区分“可见细节”与“假设”。
- 资产创建:Astra 先用云端图像编辑提升裁剪参考图的分辨率与清晰度,并与原图比对轮廓、比例、颜色与特征一致性;随后用 FreeCAD 构建基础几何与可编辑 CAD 结构,用 Blender 添加细节与材质,导出可编辑模型与 USD 资产。也可复用 SimReady Central Library 中 2,000 多个仿真就绪的 OpenUSD 资产。
- 环境搭建:在 Isaac Sim 中组装赛道,使用 Omniverse 库的渲染与传感器仿真能力,Newton 负责 Microduck 的运动与平衡物理建模;机器人通过 links、joints、actuators 定义关节结构与驱动关系。
- 策略训练:NVIDIA Isaac Lab 作为开源机器人学习框架,支持大规模并行仿真;本任务以 Isaac Lab 的 Microduck 示例环境为起点,对已预训练的运动策略做额外训练,使其能通过弯道坡道与障碍,观测输入为头部相机深度与机器人状态。该适配训练使用 4,096 个并行环境,运行在 NVIDIA RTX PRO 6000 Blackwell Workstation Edition GPU 上。
- 本地验证:训练后的策略回到 RTX Spark 上的 Isaac Sim 中评估,检查障碍检测、动作调整与赛道完成情况;为后续 sim-to-real 迁移准备 Better Actuator Models 与域随机化。
主要结果或产业意义
博客给出的是一条可复用的参考工作流,而非量化性能结论:智能体承担了从提示词到项目计划、从概念图到可用 3D 资产的准备工作,Isaac Lab 承担规模化强化学习训练,RTX Spark 承担本地策略验证。文中的训练配置(4,096 并行环境、指定 GPU)属于该示例实验的设置,具体训练效果指标未在材料中给出,待核实。
为什么重要
这条工作流把“智能体做规划与资产准备”和“仿真框架做规模化策略训练”明确分工,降低了搭建机器人学习环境的准备成本;同时强调训练与评估分离——训练中策略随经验变化,评估则针对选定策略检查其成功与不足。对希望把仿真训练流程迁移到自有机器人与任务的团队,这是一个可参照的端到端样板。
局限与不确定性
- 材料未给出策略训练的成功率、收敛曲线或 sim-to-real 迁移的实测结果,相关量化结论待核实。
- 从概念图裁剪得到的参考图可能分辨率偏低,图像中无法确定的尺寸与隐藏表面被记为建模假设,资产准确性受此限制。
- 博客明确该流程是为物理部署打基础,仿真与真实行为的差异仍需进一步细化;示例中不操作真实硬件。
- 页面摘要由 NVIDIA Nemotron 自动生成,原文提示 AI 生成内容可能总结不完整,重要信息需自行核实。
可用于图书/PPT/简报的角度
- “智能体做前处理、仿真框架做训练”的机器人开发分工图。
- 从一句提示词到可训练环境的流水线拆解:规划 → 概念图 → 资产 → 组装 → 训练 → 验证。
- 大规模并行仿真(4,096 环境)作为策略学习加速手段的案例。
- 仿真资产生态(SimReady、OpenUSD)对降低环境搭建成本的作用。
- 训练与评估分离的工程实践,以及 sim-to-real 之前必须完成的验证步骤。
与既有脉络的关系
本条与“用 AI 代理为仿真准备 3D 场景”同属智能体辅助仿真资产/环境准备的脉络,本条增量在于把资产准备接入完整的机器人策略训练与本地验证闭环,并给出具体智能体(Hermes、Nemotron 3.5 Bolt、Astra)与训练框架(Isaac Lab、Newton)的分工。
原始材料
- 标题:Using AI Agents to Teach Robots Like Microduck to Walk in Simulation | NVIDIA Technical Blog
- 作者:Gabriele Leone, Seun Doherty, Asier Arranz, Johnny Núñez, Asawaree Bhide
- 发布日期:Oct 23, 2026
- 来源:NVIDIA Technical Blog(Robotics)
- URL:https://developer.nvidia.com/blog/using-ai-agents-to-teach-robots-like-microduck-to-walk-in-simulation
- 关键词:AI agents, Microduck, Isaac Sim, Isaac Lab, Newton, Omniverse, reinforcement learning, sim-to-real, RTX Spark, Nemotron
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
这条工作流把“智能体做规划与资产准备”和“仿真框架做规模化策略训练”明确分工,降低了搭建机器人学习环境的准备成本;同时强调训练与评估分离——训练中策略随经验变化,评估则针对选定策略检查其成功与不足。对希望把仿真训练流程迁移到自有机器人与任务的团队,这是一个可参照的端到端样板。
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: