NVIDIA Spectrum-X 乙太網路平台
相較於傳統乙太網路,AI 網路效能提升 1.6 倍。
簡介
全球首創的 AI 乙太網路平台
使用 NVIDIA Spectrum-X™ 乙太網路平台訓練及部署大規模 AI。這個平台採用 NVIDIA Spectrum-X 乙太網路交換器 與 NVIDIA Spectrum-X 乙太網路 SuperNIC™ 緊密整合設計,為 AI 提供最高效能:在資料中心內連接 AI 運算網狀架構,利用 Spectrum-XGS 乙太網路跨多個 AI 資料中心擴充,並且支援創新共同封裝光學交換技術,實現更高的功率效率與 AI 工作負載韌性。
優勢
強大的 AI 雲端效能
Spectrum-X 是革命性的解決方案,可透過乙太網路建立多租戶的超大規模 AI 雲端。組織若採用 Spectrum-X,便可大幅提升 AI 雲端的效能和能源效率,並且提高可預測性和一致性,進而縮短上市時間並提升競爭優勢。
幾近完美的大規模頻寬
超低延遲
端到端堆疊最佳化
可擴充 AI 通訊用的進階 RoCE 延伸模組
確定性效能與效能隔離
開放式網路作業系統:SONiC 與 NVIDIA® Cumulus®
超大規模的加速乙太網路
Spectrum-X 是完全符合標準的乙太網路,採用 NVIDIA 網路創新技術,支援雲端規模的開放式乙太網路堆疊 (SONiC)。
連接資料中心,實現大規模 AI。
NVIDIA Spectrum-XGS 乙太網路專為跨多個分散式資料中心擴大規模而設計,無論是位於不同建築物,或相距數百公里,都能整合為統一的 AI 超級工廠般運作。Spectrum-XGS 乙太網路採用拓撲感知的壅塞控制演算法、精確的延遲管理,以及端到端遙測技術,讓跨資料中心環境的 NCCL 效能提升 1.9 倍。
NVIDIA 矽光子
Spectrum-X 乙太網路光子技術將光學元件與交換器 ASIC 整合於相同的封裝內,可降低功耗、提高可靠性,並且提高 AI 生產力。相較於傳統可插拔收發器網路,Spectrum-X 乙太網路光子技術可將網路功率效率提升 5 倍、網路韌性提高,持續性 AI 應用程式執行時間則延長 5 倍。
Spectrum-X 多平面架構
Spectrum-X 多平面架構讓乙太網路能透過扁平化的兩層拓撲,將規模從數千顆擴充為成千上萬顆 GPU。將每顆 GPU 的 SuperNIC 跨接至兩個或多個獨立網路平面,不僅能克服單平面限制、提高效能與韌性,還可在兩層架構將 Spectrum-X 乙太網路擴充至 128K 顆 GPU,規模是單平面網路的 64 倍。
機架級 Spectrum-X 乙太網路
Spectrum-X 乙太網路與 NVIDIA MGX™ ETL 機架級架構完全整合,為超密集運算機架提供高效能乙太網路,並將 MGX 的液冷技術與可靠性創新,擴大應用至更廣泛的運算選項。這款高能效的銅纜線匣,可將液冷式 Spectrum-X 乙太網路交換器托盤連接至單機櫃內多達 256 顆 GPU,而前面板的光纖連接能力,支援橫向擴充為規模更大的 GPU 網域。
產品
平台內部
NVIDIA Spectrum-X 乙太網路交換器
NVIDIA Spectrum-X 乙太網路交換器是專為加速超大規模生成式 AI 網狀架構而打造。Spectrum-X 乙太網路交換器為 AI 工廠提供高效頻寬與效能隔離,可將基礎架構擴充至成千上萬顆 GPU,並且實現全球最大 AI 模型的訓練與部署作業。
NVIDIA Spectrum-X 乙太網路 SuperNIC
NVIDIA Spectrum-X 乙太網路 SuperNIC 是新型網路加速器,專為大幅提升超大規模 AI 工作負載效能量身打造。NVIDIA SuperNIC 專為網路密集型大規模平行運算而設計,在 GPU 伺服器之間提供高頻寬融合乙太網路的 RDMA (RoCE) 網路連線能力,將 AI 工作負載的高峰效率最佳化。
應用
Spectrum-X 乙太網路技術的用途
合作夥伴
我們的合作夥伴
-
伺服器
-
Storage
-
協調