AI消息速览

通过NVIDIA BlueField实现智能体AI工厂的极致协同设计

事件日期 2026-07-16 · 产业观察 · 已接受

返回列表 打开来源
事件日期2026-07-16
信息日期2026-07-16
入库日期2026-07-17
通道产业观察
状态已接受
来源NVIDIA 博客

知识卡片：通过NVIDIA BlueField实现智能体AI工厂的极致协同设计

一句话结论

NVIDIA BlueField-4 DPU、Vera BlueField-4 STX存储处理器与DOCA软件平台构成AI工厂的“基础设施操作系统”，通过卸载、加速和隔离网络、存储、安全、遥测及上下文管理任务，提升GPU利用率、降低每token成本并增加每瓦token数，以应对智能体AI工作流对基础设施数据路径的新需求。

事件概述

2026年7月16日，NVIDIA在技术博客中介绍了BlueField平台如何通过极致协同设计（extreme co-design）规模化智能体AI工厂。文章指出，智能体AI将推理从单一模型执行扩展为分布式工作流——一个请求可触发多次模型调用、工具调用、内存查找、策略检查、存储访问与网络传输。因此，基础设施数据路径成为推理管线的一部分，需要高速移动、保护、检索和重用上下文数据（如KV缓存），同时避免引入延迟或CPU瓶颈。BlueField-4 DPU、Vera BlueField-4 STX存储处理器及DOCA软件共同提供了专用、可编程的基础设施处理方案。

方法/产品要点

  • BlueField-4 DPU：集成高达800 Gb/s以太网或InfiniBand、64核NVIDIA Grace CPU、高带宽LPDDR5X内存、PCIe Gen6以及内联加速（网络、存储、安全、数据移动）。相比BlueField-3，网络带宽翻倍，计算性能最高提升6倍，内存容量4倍，内存带宽3倍以上。
  • Vera BlueField-4 STX存储处理器：结合NVIDIA Vera CPU、NVIDIA ConnectX-9 SuperNIC、最高1.6 Tb/s Spectrum-X以太网连接、高性能NVMe存储访问、加速数据移动、芯片级安全与DOCA可编程性。专为AI原生存储和上下文内存（NVIDIA CMX）打造，支持通过DOCA Memos管理KV缓存。
  • DOCA软件平台：提供一致的可编程软件基础，使开发者、运营商和ISV能构建和部署加速基础设施服务，包括：
    • DOCA HBN：支持服务器端三层路由，BlueField充当BGP路由器实现多租户。
    • BlueField ASTRA：实现Spectrum-X零信任多租户裸金属部署。
    • DOCA Memos：在计算和存储节点间管理、共享KV缓存，支持长上下文和智能体推理中的上下文重用。
    • DOCA安全服务：零信任访问、策略执行、运行时可见性与隔离。
  • 系统级协同设计：BlueField-4在Vera Rubin AI工厂中充当基础设施处理器，连接Rubin GPU、Vera CPU、NVLink（规模内通信）和ConnectX-9/Spectrum-X（规模外网络），在GPU计算托盘、CPU执行层和存储层卸载基础设施工作，避免消耗主机CPU资源。

主要结果或产业意义

  • 提升GPU利用率：通过卸载和隔离基础设施任务，GPU免于被主机CPU开销、可变访问控制或管理流量所阻塞。
  • 降低推理延迟：前端（南北向）带宽增加，主机CPU争用减少，使数据与上下文更快到达GPU，支持更可预测的推理延迟。
  • 降低每token成本与增加每瓦token数：BlueField的加速和托管能力使AI工厂整体效率提升。
  • 强化多租户隔离：通过零信任架构与内联策略执行，保护数据、推理过程和智能体免受跨租户干扰。
  • 上下文管理成为基础设施组件：KV缓存的管理、移动和重用被纳入网络、存储、安全等基础设施服务，而非仅依赖GPU内存。

为什么重要

本卡片是对已有“NVIDIA Vera CPU提升AI工厂吞吐量以加速智能体工作负载”的延续与补充。上一卡片聚焦Vera CPU本身的计算能力；本卡片则揭示AI工厂中基础设施层的关键角色：即使CPU再强，若基础设施（网络、存储、安全、上下文管理）无法跟上智能体分布式工作流的节奏，GPU和CPU仍会被阻塞。BlueField-4作为专用的基础设施处理器，与Vera CPU和Rubin GPU协同设计，构成了AI工厂完整的数据路径，是NVIDIA从“单芯片加速”向“全系统协同”战略的重要体现。

局限与不确定性

  • 文中提及的性能提升（如6倍计算性能、4倍内存容量等）均基于NVIDIA的对比数据，未提供第三方独立验证。
  • 具体部署场景（如实际KV缓存管理延迟、多租户隔离的开销）缺乏量化基准测试结果，待核实。
  • DOCA Memos等新服务尚属软件定义，在实际生产环境中的适配与运维复杂性未展开说明。
  • “AI生成摘要”标注可能表示部分内容由AI辅助生成，需注意信息准确性。

可用于图书/PPT/简报的角度

  • 标题示例：“智能体AI工厂：基础设施不再是‘配角’——NVIDIA BlueField如何把网络、存储、安全变成推理管线的一部分”
  • 核心论点：当AI从单次推理转向多步智能体工作流时，基础设施的延迟和CPU开销成为瓶颈，专用DPU/存储处理器是解锁GPU和CPU性能的关键。
  • 可引用数据：BlueField-4相比前代网络带宽翻倍、计算性能提升6倍、内存容量4倍、内存带宽3倍；支持800 Gb/s连接、64核Grace CPU、PCIe Gen6。
  • 对比视角：传统AI集群中基础设施服务由主机CPU处理，导致GPU利用率不高；BlueField将基础设施服务卸载到专用处理器上，使GPU专注于推理。

原始材料

  • 英文标题：Scaling Agentic AI Factories Through Extreme Co-Design with NVIDIA BlueField
  • 英文关键词：Agentic AI, BlueField-4, DPU, STX, DOCA, AI Factory, KV Cache, Context Memory
  • 来源：NVIDIA Technical Blog, July 16, 2026. URL: https://developer.nvidia.com/blog/scaling-agentic-ai-factories-through-extreme-co-design-with-nvidia-bluefield