知识卡片:NVIDIA OpenShell 参考架构如何大规模保障与治理 AI Agent 工作负载
一句话结论
NVIDIA 发布开源运行时 OpenShell 及其参考架构,把安全与治理下沉到 Agent 之外的运行环境,并配合 Vera CPU 与 BlueField-4 DPU/Sentry 实现从软件沙箱到芯片级隔离的大规模 Agent 管控。
事件概述或研究问题
自主 Agent 可连续数小时执行复杂任务,访问文件、工具、互联网,甚至派生其他 Agent 协作。长时间跨度带来复合风险:Agent 可能下载代码、自建工具、申请额外权限、触达更多底层基础设施。文章提出的核心判断是“Agent 无法自治”,安全与治理必须放在 Agent 所运行的infrastructure 中,而非依赖 Agent 自我约束。OpenShell 参考架构即为解决这一问题而设计。
方法/产品要点
OpenShell 将 Agent 工作负载全程视为不可信,按需授权访问。四个核心组件:
- Gateway:控制平面,管理沙箱生命周期与策略。
- Supervisor:对照策略检查出站请求并中介凭证访问,完全独立于沙箱运行。
- Sandbox:隔离 Agent 工作负载,限制文件系统与进程访问。
- Policy Prover:形式化验证,检查策略权限是否处于组织定义的ceiling 之内。
扩展与集成:Supervisor 中间件可检查、阻断或修改网络内容;Gateway 拦截器允许在不改动网关的前提下加入部署特定治理。身份、授权、数据保护、审计等系统可在 OpenShell 提供的执行点上集成。
硬件层:参考架构中 OpenShell 运行于 NVIDIA Vera CPU;可选 BlueField-4 DPU 提供硬件隔离信任域,位于 Vera 上 Agent 与其访问模型之间的 I/O 路径;NVIDIA Sentry(基于 DOCA 的安全软件框架)在该独立域内持续监控 Agent 行为并执行运行时策略,检测到违规时由 BlueField-4 在芯片层执行策略,可在毫秒级隔离 Agent。
主要结果或产业意义
Vera 的关键规格:88 个 NVIDIA 自研 Olympus 核、第二代 Scalable Coherency Fabric(核间带宽最高为 x86 替代方案 3 倍、核间延迟低至 50%)、最高 1.2 TB/s LPDDR5X 内存带宽、96 条 PCIe Gen 6 通道、机密计算;文章称关键 Agent 工作负载性能最高为 x86 的 2 倍,每瓦性能为 x86 CPU 的 2 倍。
CoreWeave 实测(对比领先 x86 CPU,20 项真实 Agent 任务):沙箱启动快 3 倍以上,Agent 循环完成快 1.8 倍,单机架支持超过 11,000 个并发 Agent 环境;Terminal Bench 覆盖从脚本编写到数据库恢复的任务。
为什么重要
此前相关卡片分别关注 Agent 工作流的自动化编排(NeMo RL 技能)与模型路由(NeMo Switchyard),本条补充的是“执行侧治理”这一层:不解决 Agent 选哪个模型或怎么编排任务,而是解决 Agent 在长时间自主运行中能碰什么、碰多快、越界后多久被切断。对产业而言,这意味着 Agent 基础设施的竞争点从单纯算力扩展到“性能 + 可强制执行边界”的组合,且治理点被明确放在 Agent 不可触及的位置。
局限与不确定性
- 性能数字(2x、3x、1.8x、11,000 并发环境、2x 每瓦性能)均来自 NVIDIA 官方博客及其引用的 CoreWeave 测试,具体测试配置、基线 CPU 型号与可复现条件待核实。
- Policy Prover 的“形式化验证”覆盖范围与策略语言表达能力待核实。
- BlueField-4 与 Sentry 为可选硬件保护层,其实际部署成本与运维复杂度待核实。
- Sentry 对主机内存的分析范围与隐私/合规影响待核实。
可用于图书/PPT/简报的角度
- “Agent 不能自己管自己”:治理必须外置于 Agent 的架构原则。
- 四组件模型(Gateway / Supervisor / Sandbox / Policy Prover)作为 Agent 运行时安全的分层示意。
- 从软件沙箱到芯片级隔离的纵深防御梯度(OpenShell → BlueField-4 + Sentry)。
- Agent 负载对 CPU 的五维需求(核数、单核性能、带宽、I/O、硬件安全、能效)作为基础设施选型框架。
- 沙箱启动速度与并发密度作为 Agent 规模化能力的隐性指标。
原始材料
- 标题:How NVIDIA OpenShell Reference Architecture Secures and Governs AI Agent Workloads at Scale
- 来源:NVIDIA Technical Blog
- 作者:Hannah Coutand、Itay Ozery、Alex Sandu、Kirit Thadaka
- 日期:Oct 21, 2026
- URL:https://developer.nvidia.com/blog/how-nvidia-openshell-reference-architecture-secures-and-governs-ai-agent-workloads-at-scale
- 关键词:OpenShell、Sentry、Vera CPU、Vera Rubin、BlueField DPU、DOCA、Agentic AI、Trustworthy AI / Cybersecurity
- 相关链接:OpenShell GitHub 仓库、Secure Agent Workspace Reference Design 文档(具体地址待核实)
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
此前相关卡片分别关注 Agent 工作流的自动化编排(NeMo RL 技能)与模型路由(NeMo Switchyard),本条补充的是“执行侧治理”这一层:不解决 Agent 选哪个模型或怎么编排任务,而是解决 Agent 在长时间自主运行中能碰什么、碰多快、越界后多久被切断。对产业而言,这意味着 Agent 基础设施的竞争点从单纯算力扩展到“性能 + 可…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: