知识卡片：让 Kubernetes 在首日就为 NVIDIA Vera Rubin 就绪

一句话结论

NVIDIA 推出 AI Cluster Runtime (AICR)，把 Vera Rubin NVL72 在 Kubernetes 上的调优配置固化为可复现的“配方”（recipe），并在参考集群上完成部署、一致性与跨节点 NCCL 性能门禁验证，目标是让新 GPU 硬件“首日可用”。

事件概述或研究问题

问题：为 Vera Rubin 这类新 GPU 架构配置和优化 Kubernetes 复杂且易错——驱动、内核、运行时、网络、Operator、调度器必须协同工作，细微不匹配就会导致工作负载无法运行或性能受限。NVIDIA 技术博客（2026-11-02，作者 Mark Chmarny、Yuan Chen）介绍 AICR（属于 NVIDIA DSX AI Factory Platform）如何通过“配方 + 部署包 + 验证”简化这一过程，并给出在早期 Vera Rubin 硬件上的实测结果。

方法/产品要点

• AICR 三段式工作流：aicr recipe 离线解析条件生成配方（示例解析出 5 个 overlay、14 个组件）；aicr bundle 渲染为按序排列的逐组件 Helm chart 与单一部署脚本（示例生成 61 个文件）；aicr snapshot + aicr validate 抓取集群实际状态并跑就绪约束与集群内验证作业。
• Vera Rubin 配方家族（service: rke2；accelerator: vr200；OS: Ubuntu；含 training、inference 与 Dynamo 推理变体），以 Preview 形式发布，编码了 bring-up 期间的关键决策：
  • 主机预装 arm64 open-kernel-module 驱动，配方以 driver.enabled: false 运行 GPU Operator（容器工具链仍由 Operator 管理）。
  • DRA driver v0.5.0 启用 ComputeDomains（IMEX），整卡分配仍走 device plugin。
  • 平台下限与“坑”：Kubernetes >= 1.34.1（1.34 提供 GA 的 resource.k8s.io/v1 DRA API，.1 补丁因 RKE2 CDI/NRI 路径需要 containerd 2.1）；Ubuntu 26.04 + Vera 优化 arm64 64k 页内核；调高 NFD topology updater 默认 60Mi 内存限制（否则在多 TB 级 NVL72 worker 上会被 OOM kill）。
• 相对 GB200 NVL72 的变化：新驱动分支（已验证 R615.23，早期支持目标 R610、官方平台支持 R620；GB200 基线为 R580.173.02）；ConnectX-7/BlueField-3 换为 ConnectX-9 SuperNIC/BlueField-4 DPU，DOCA 3.3.0 为首个支持 ConnectX-9 的 GA 版本；计算托架 NIC/GPU/DMA 拓扑改变，GPU-NIC 亲和与 NUMA 放置需重查（Vera Rubin 托架暴露 8 个 ConnectX-9 PCI 设备组、32 个 function，对比 GB200 托架的 4 个 ConnectX-7）；IMEX 需停用/屏蔽主机静态 nvidia-imex 服务以避免所有权冲突，DRA v0.5.0 新增仅域隔离的 alpha 主机管理模式，示例集群用 driverManaged 模式；Rubin GPU 引入新 MIG profile，但本次验证不覆盖 MIG。
• 配套组件：DraNet（把 ConnectX-9 设备分配给 Pod）、NodeWright 独占 RDMA netns 调优、KAI Scheduler、NVSentinel、NFD、Prometheus 栈等，组件版本固定为 Vera Rubin 硬件上验证过的组合。

主要结果或产业意义

• 使用官方 GPU Operator v26.7.0 与 DRA driver v0.5.0、主机安装 R615 驱动，训练与推理两种配方变体均通过部署与一致性验证。
• 训练侧初始性能门禁：跨节点 NCCL all-reduce 经 IMEX ComputeDomain 走 NVLink fabric，在 16 GiB 下达到 744.71 GB/s 总线带宽。
• 该部署包首次面向“arm64 + Ubuntu 26.04 + 64k 页内核 + RKE2 + Vera Rubin”这一此前从未被这些组件共同验证过的组合，从集群交接到运行时健康仅用数小时；次日第二个 Vera Rubin 集群复现了结果，可复现性正是配方的主要价值。
• 早期硅片验证暴露了 go-nvlib 中未映射的 Rubin 架构值，导致 DRA driver 的 kubelet 插件崩溃重启循环；修复沿栈传导并进入官方 DRA driver v0.5.0 发布。

为什么重要

• 对平台团队：把“调参考古”变成版本化、可审计、跨集群可复现的配方，降低新硬件上线的人为失误与时间成本。
• 对生态：显示 MGX 机架级架构演进到第三代时，软件栈（驱动、DOCA、DRA、IMEX、调度）需要同步升级，AICR 充当软硬件之间的“已知良好配置”载体。
• 与既有卡片的关系：已有卡片聚焦 Groq 3 LPX 在 Vera Rubin 上的推理性能与能效；本卡片补充的是同一平台上“Kubernetes 软件栈就绪与可复现配置”的工程侧增量，二者互补而非重复。

局限与不确定性

• Vera Rubin 配方为 Preview，尚不具备 Supported 配方的生产支持与生命周期认证；平台本身处于预发布阶段。
• R615.23 是当前测试版本，并非官方 Vera Rubin 支持的确认最低版本；DOCA 3.3.0/DOCA-OFED 为测试床版本，非要求或推荐；Network Operator 兼容性是单独的资格验证步骤。
• 验证未覆盖 MIG、ConnectX-9 上的 RDMA 数据面性能；文中“首日可用”为厂商表述，实际生产就绪时间待核实。
• 性能数字（744.71 GB/s）来自特定参考集群与 16 GiB 消息规模，外推需谨慎。

可用于图书/PPT/简报的角度

• “配方即配置”：把 bring-up 知识编码为可版本化、可验证的资产，作为 AI 工厂运维方法论的案例。
• 新硬件上云原生栈的“全栈 plumbing”清单：驱动模式、DRA/IMEX、拓扑亲和、内核页大小、Operator 版本锁定。
• 早期硅片验证的价值：一个未映射的架构枚举值如何引发 kubelet 插件崩溃循环，以及修复如何回流到官方发布。
• 升级规划对照表：GB200 NVL72 → Vera Rubin NVL72 的驱动、NIC/DPU、拓扑与 IMEX 差异。

原始材料

• 标题：Making Kubernetes AI-Ready for NVIDIA Vera Rubin on Day One | NVIDIA Technical Blog
• 作者：Mark Chmarny、Yuan Chen
• 日期：Nov 02, 2026
• URL：https://developer.nvidia.com/blog/making-kubernetes-ai-ready-for-nvidia-vera-rubin-on-day-one
• 关键词：NVIDIA Vera Rubin、Kubernetes、AICR (AI Cluster Runtime)、DRA driver、ComputeDomains、IMEX、DOCA、ConnectX-9、GPU Operator、DSX AI Factory Platform