形塑新世代 AI
概覽
NVIDIA Vera Rubin 平台專為代理 AI 與推理時代而打造,經過精心設計,是大規模分步驟解決問題及超長語境工作流程的利器。 Vera Rubin 是一款多機架 POD 級系統,將五款專用機架級系統整合為一台巨大且一致的 AI 超級電腦。 透過消除通訊與記憶體移動的關鍵瓶頸,該平台強化推論能力,每瓦可處理更多 Token,且相較於 NVIDIA Blackwell 架構,降低每 Token 成本。
NVIDIA Vera Rubin NVL72 整合 NVIDIA 的尖端技術,包括 72 個 Rubin GPU、36 個 Vera CPU、ConnectX™-9 SuperNIC™s,以及 BlueField™-4 DPU。 它透過 NVIDIA NVLink™ 6 交換器,在第三代機架級平台中擴充智慧,並透過 NVIDIA Quantum-X800 InfiniBand 與 Spectrum-X™ 乙太網路擴展,大規模推動 AI 產業革命。
Vera Rubin NVL72 具備全新 Transformer Engine,具備自適應壓縮能力,提升 NVFP4 推論效能;第三代 NVIDIA 機密運算,將安全性延伸至完整機架級平台,以及第二代 RAS 引擎,提供機架級韌性。
NVIDIA Vera CPU 機架提供高密度、液冷式 CPU 基礎架構,專為強化學習與大規模代理 AI 所打造。 基於 NVIDIA MGX™ 模組化參考架構,每個機架整合 256 個 NVIDIA Vera CPU,並支援超過 22,500 個並行沙箱環境,為 AI 工廠提供可擴充且節能的 CPU 容量,用於工具呼叫、評估、資料處理與協調。
NVIDIA Groq 3 LPX 是專為 NVIDIA Vera Rubin 平台打造的推論加速器,專為滿足代理系統對低延遲與大量上下文的需求而設計。透過結合 Rubin GPU 用於高頻寬記憶體 (HBM) 與靜態隨機存取記憶體 (SRAM) 的 LPU,NVIDIA Vera Rubin 與 LPX 結合,為兆參數模型與百萬 Token 情境提供全新等級的推論效能。
NVIDIA Vera BlueField-4 STX 是機架級 AI 原生儲存解決方案的模組化基礎。 透過整合 NVIDIA Vera Rubin、BlueField-4 STX 儲存處理器、Spectrum-X 網路,以及 NVIDIA AI 軟體,將整個資料生命週期最佳化,涵蓋資料分析、模型訓練以及大規模完整代理 AI 工作流程。
Spectrum-6 SPX 乙太網路專為加速 AI 工廠的網路而設計。 可透過 NVIDIA Spectrum-X™ 乙太網路或 NVIDIA Quantum-X800 InfiniBand 交換器配置,大規模提供低延遲、高傳輸量的機架到機架連線。
閱讀這份技術深入解析,瞭解 NVIDIA Vera Rubin 如何將資料中心而非單一晶片視為運算單位,為高效安全且可預測的方式大規模生成智慧奠定基礎。