輝達在Hot Chips 2026大會上首次公佈了下一代旗艦機櫃Vera Rubin NVL72的片上實測資料。在DeepSeek-V4-Pro的智慧體編碼任務中，其每兆瓦吞吐量較當前主力GB300 NVL72最高提升30倍，每百萬Token生產成本最高降低35倍。這一結果被視為AI算力效能的一次重大躍升，並可能重新定義智慧體時代的計算標準。

輝達此次測試採用了SemiAnalysis旗下的AgentX基準，該基準回放真實的程式碼編寫會話，包含上下文增長、工具呼叫和子智慧體生成，以捕捉完整的智慧體工作流。相比之下，傳統的固定長度序列測試被認為已無法反映真實需求。資料顯示，GB300在相同測試中每兆瓦吞吐量已比H200提升15倍，而Vera Rubin在此基礎上又提升30倍。對於受電力供應限制的AI工廠而言，這意味著在相同電力預算下可處理30倍的智慧體任務，相當於憑空增加30倍算力資產。此外，NVIDIA DSX MaxLPS技術可在GPU、機架和工作負載層面最佳化電源管理，在相同兆瓦預算內多配置高達40%的GPU。

效能提升直接轉化為成本優勢。輝達宣佈，Vera Rubin NVL72生產每百萬Token的成本比GB300 NVL72最高降低35倍。當推理成本大幅下降，24小時不間斷的數字員工和ToC端超級應用可能迎來爆發。有分析指出，這一變化可能改寫智慧體應用的商業模式，使更多依賴高頻推理的場景成為可能。

Vera Rubin NVL72的驚人效能並非僅靠單晶片工藝，而是源於極致協同設計，包括分離式服務、分散式KV快取、KV感知路由、MegaMoE等技術。NVFP4量化將模型權重壓縮至4位精度，在保證輸出質量的同時減少記憶體佔用。第六代NVLink與MoE架構結合，提供了比乙太網路快10倍、延遲低3倍的網際網路絡，使DeepSeek這類MoE模型能在72個GPU間高效呼叫不同專家子網路。輝達CEO黃仁勳表示，公司已不再只是銷售GPU，而是提供整套“AI發電廠”。

大會還宣佈Groq 3 LPX推理加速器全面量產。該產品是Vera Rubin NVL72平台的專屬擴充套件，去年12月輝達以200億美元收購Groq公司獲得。Groq 3 LPX將上下文處理與Token生成分離，由Rubin GPU處理大規模上下文，LPX負責極速生成Token。在Artificial Analysis基準測試中，Groq 3 LPX在10萬Token長上下文下執行Gemma 4 31B，輸出速度達3,400 Token/秒，響應速度比競品快4倍。生成5000 Token的時間從50秒降至1.5秒，編碼任務最大輸出速度達6,981 Token/秒。Nebius已在Token Factory中部署該晶片。

輝達還發布了專為智慧體設計的Vera CPU，配備88個自研Olympus核心，高頻寬LPDDR5X記憶體，頻寬達1.2TB/s。輝達高管稱“Agentic AI是史上最複雜的計算任務”，因為智慧體需執行上百步操作，包括工具呼叫、程式碼執行和上下文處理，這些任務對CPU提出了新要求。

SpaceXAI（原xAI）已宣佈規模化部署Vera CPU。今年5月輝達向包括SpaceXAI在內的多家公司提供樣片，僅3個月後SpaceXAI即轉入全面部署。SpaceXAI正基於Vera Rubin平台建設吉瓦級算力工廠以驅動Grok，並計劃將這套算力送上太空。馬斯克表示，雙方合作設計了最佳化版Vera Rubin NVL72，將於2028年大規模部署，SpaceXAI第一代“Starmind”AI衛星將採用該機架級系統。

同一天，Vera CPU和Groq 3 LPX雙雙量產，標誌著輝達的版圖從GPU擴充套件到CPU、推理加速器、NVLink等全棧產品。分析認為，輝達正從提供單一晶片轉向提供完整的“Token工廠”，為智慧體時代重新鋪設基礎設施。這一動向可能對AI算力市場格局產生深遠影響，但具體市場反應仍有待觀察。