英伟达在Hot Chips 2026大会上首次公布了下一代旗舰机柜Vera Rubin NVL72的片上实测数据。在DeepSeek-V4-Pro的智能体编码任务中,其每兆瓦吞吐量较当前主力GB300 NVL72最高提升30倍,每百万Token生产成本最高降低35倍。这一结果被视为AI算力性能的一次重大跃升,并可能重新定义智能体时代的计算标准。

英伟达此次测试采用了SemiAnalysis旗下的AgentX基准,该基准回放真实的代码编写会话,包含上下文增长、工具调用和子智能体生成,以捕捉完整的智能体工作流。相比之下,传统的固定长度序列测试被认为已无法反映真实需求。数据显示,GB300在相同测试中每兆瓦吞吐量已比H200提升15倍,而Vera Rubin在此基础上又提升30倍。对于受电力供应限制的AI工厂而言,这意味着在相同电力预算下可处理30倍的智能体任务,相当于凭空增加30倍算力资产。此外,NVIDIA DSX MaxLPS技术可在GPU、机架和工作负载层面优化电源管理,在相同兆瓦预算内多配置高达40%的GPU。

性能提升直接转化为成本优势。英伟达宣布,Vera Rubin NVL72生产每百万Token的成本比GB300 NVL72最高降低35倍。当推理成本大幅下降,24小时不间断的数字员工和ToC端超级应用可能迎来爆发。有分析指出,这一变化可能改写智能体应用的商业模式,使更多依赖高频推理的场景成为可能。

Vera Rubin NVL72的惊人性能并非仅靠单芯片工艺,而是源于极致协同设计,包括分离式服务、分布式KV缓存、KV感知路由、MegaMoE等技术。NVFP4量化将模型权重压缩至4位精度,在保证输出质量的同时减少内存占用。第六代NVLink与MoE架构结合,提供了比以太网快10倍、延迟低3倍的互联网络,使DeepSeek这类MoE模型能在72个GPU间高效调用不同专家子网络。英伟达CEO黄仁勋表示,公司已不再只是销售GPU,而是提供整套“AI发电厂”。

大会还宣布Groq 3 LPX推理加速器全面量产。该产品是Vera Rubin NVL72平台的专属扩展,去年12月英伟达以200亿美元收购Groq公司获得。Groq 3 LPX将上下文处理与Token生成分离,由Rubin GPU处理大规模上下文,LPX负责极速生成Token。在Artificial Analysis基准测试中,Groq 3 LPX在10万Token长上下文下运行Gemma 4 31B,输出速度达3,400 Token/秒,响应速度比竞品快4倍。生成5000 Token的时间从50秒降至1.5秒,编码任务最大输出速度达6,981 Token/秒。Nebius已在Token Factory中部署该芯片。

英伟达还发布了专为智能体设计的Vera CPU,配备88个自研Olympus核心,高带宽LPDDR5X内存,带宽达1.2TB/s。英伟达高管称“Agentic AI是史上最复杂的计算任务”,因为智能体需执行上百步操作,包括工具调用、代码执行和上下文处理,这些任务对CPU提出了新要求。

SpaceXAI(原xAI)已宣布规模化部署Vera CPU。今年5月英伟达向包括SpaceXAI在内的多家公司提供样片,仅3个月后SpaceXAI即转入全面部署。SpaceXAI正基于Vera Rubin平台建设吉瓦级算力工厂以驱动Grok,并计划将这套算力送上太空。马斯克表示,双方合作设计了优化版Vera Rubin NVL72,将于2028年大规模部署,SpaceXAI第一代“Starmind”AI卫星将采用该机架级系统。

同一天,Vera CPU和Groq 3 LPX双双量产,标志着英伟达的版图从GPU扩展到CPU、推理加速器、NVLink等全栈产品。分析认为,英伟达正从提供单一芯片转向提供完整的“Token工厂”,为智能体时代重新铺设基础设施。这一动向可能对AI算力市场格局产生深远影响,但具体市场反应仍有待观察。