NVIDIA Rubin 平台

Rubin 平台採用新款 Transformer Engine，運用硬體加速的自適應壓縮技術大幅提升 NVFP4 效能並兼顧準確性，NVFP4 推論最高可達 50 petaFLOPS。Transformer Engine 與 NVIDIA Blackwell 完全相容，確保升級順暢無礙，因此先前最佳化的程式碼可輕鬆轉移至 Rubin 平台。

第六代 NVLink 將 72 顆 NVIDIA Rubin GPU 整合至單一效能域，為 NVIDIA 高速 GPU 互連網狀架構帶來重大的躍進。Rubin 的效能是 NVIDIA Blackwell 的兩倍，每顆 GPU 提供每秒 3.6 TB/s 的頻寬，以及 260 TB/s 的低延遲連線能力，通訊速度更快。這種新一代互連技術結合 NVIDIA® Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™ 技術，將集體運算的網路擁塞量最多降低 50%，大規模加速全球最大型模型的訓練與推論，而且效能絲毫不打折扣。

NVIDIA Vera CPU 專為加速系統的資料移動與代理型推理而設計，並支援完整的機密運算。它可與 NVIDIA GPU 配合得天衣無縫，也可獨立運作，支援分析、雲端、協調、儲存與高效能運算 (HPC) 工作負載。Vera 採用 88 顆 NVIDIA 設計的核心，LPDDR5X 記憶體頻寬最高 1.2 TB/s，搭配 NVIDIA Scalable Coherency Fabric，為資料密集型與記憶體密集型工作負載實現可預測的節能效能，而且與 Arm® 完全相容。整合式 NVLink-C2C 連線能力可實現高頻寬的一致性 CPU-GPU 記憶體存取，將系統利用率與效率最大化。