知识卡片：企业AI工厂中的自治代理治理

一句话结论

NVIDIA提出的安全代理工作区参考设计通过将用户设备作为展示层、在托管工作区执行代理，并强制执行身份、网络、策略和审计控制，为企业在规模上安全治理自治AI代理提供了可操作的架构模式。

事件概述或研究问题

AI代理正从简单的聊天功能扩展到审查代码、运行测试、搜索知识库、查询内部系统等任务，并能代表用户持续运行数小时。这虽然提升了生产力，但也使代理能够访问敏感企业数据并在业务系统中执行操作，因此需要安全、可治理的环境。NVIDIA发布了“安全代理工作区参考设计”（Secure Agent Workspace Reference Design），旨在解决代理在企业AI工厂中的安全与治理问题。

方法/产品要点

架构分离：用户设备（笔记本电脑、浏览器、IDE、终端）仅作为展示层，代理执行发生在公司管理的托管工作区（如虚拟机）中。
阶段一：外围安全：为每个用户提供专属托管虚拟机；通过SSO控制访问；默认阻止所有互联网流量；重大系统变更需人工审批；集中日志记录。
阶段二：运行时安全：使用主动沙箱（如NVIDIA OpenShell）实时监控代理操作；通过中央系统定义并分发签名的安全策略；使用凭据代理保护密钥和密码；在每个代理动作前持续验证安全规则。
代理蓝图：可重复的工作流模板，定义代理目标、所需工具、允许的服务、数据范围、写入权限、审查关卡和日志要求，并集成身份管理、密钥处理、推理网关和治理控制。
部署环境：支持本地部署（Red Hat OpenShift Virtualization）和云部署（Microsoft Azure），核心模式相同。
自动化与策略：使用GitOps管理虚拟机配置、网络规则和策略，实现可重复、可审计的操作。

主要结果或产业意义

该参考设计为企业提供了一个从外围到内部运行时、从策略定义到日志审计的完整、分阶段实施指南。它使得企业能够向全体员工安全地提供自主、始终在线的AI代理，同时确保代理行为可观察、可约束、可撤销，并兼顾本地与云端环境。

为什么重要

AI代理在企业中的深度应用带来了安全和治理风险。该设计提供了清晰的标准和可操作步骤，帮助企业工业化AI应用，在享受代理自主性带来的生产力提升的同时，保护敏感数据和系统。

局限与不确定性

内部细节待核实：NVIDIA OpenShell 沙箱的具体能力和限制在本文中未详细展开。
与企业现有系统整合的复杂性待核实：实施该设计需要企业具备成熟的SSO、GitOps、SIEM等基础设施，整合成本和工作量取决于企业现状。
代理行为边界的精准定义待核实：定义“预期行为范围”并绘制边界以避免意外访问，在实际操作中可能复杂且需要持续迭代。

可用于图书/PPT/简报的角度

治理框架的“隔离”与“管控”两阶段法：如何先在外围锁死边界，再在内部精细管控。
从“人机协作”到“可信自主代理”的架构进化：强调将决策执行层与用户界面层分离的设计哲学。
GitOps与策略驱动的AI工厂治理：阐述如何通过代码化实现代理运行时策略的可靠分发与审计。

原始材料

文章来源：NVIDIA Technical Blog
URL：https://developer.nvidia.com/blog/how-to-govern-autonomous-agents-in-enterprise-ai-factories
原文标题：How to Govern Autonomous Agents in Enterprise AI Factories
英文关键词：Agentic AI, Generative AI, AI Agent, AI Factory, OpenShell, MLOps