網路定義 AI 資料中心
新一代網路技術,為高效能、可擴充且安全的千兆級 AI 工廠而生。
簡介
專為 AI 工廠時代打造的網路
AI 工廠 如今已擴展至數萬顆 GPU,並且很快將達到數百萬顆,運作時如同單一分散式運算引擎。AI 工作負載需要確定性延遲、無損傳輸量、穩定的迭代時間,以及在資料中心內跨多個站點擴充的能力,才能充分利用加速器。
NVIDIA 網路提供完整堆疊網狀架構,實現了這項目標,結合 NVIDIA NVLink™ 垂直擴充、NVIDIA Quantum InfiniBand 與 Spectrum-X™ 乙太網路 橫向擴充、Spectrum-XGS 多資料中心跨向擴充、NVIDIA BlueField™ DPU 與 DOCA™用於基礎架構服務,以及新一代矽光子技術平台,驅動全球最先進的 AI 工廠。
AI 代理的可信任基礎
NVIDIA Sentry 與 BlueField™ 提供在 NVIDIA OpenShell 參考架構上執行的晶片內、頻外代理安全性。
技術
形塑 NVIDIA AI 網路樣貌的創新技術
NVIDIA 將網路建構為整合式 AI 平台的一環,將 GPU、SuperNIC™s、DPU、交換器、光學模組和軟體整合至極致的共同設計架構,在大規模部署下提供極致且穩定可預測的效能。
優勢
AI 工廠的加速網路
最新消息
掌握網路的最新消息
NVIDIA 網路常見問答集
NVIDIA 網路技術是一套專為 AI 工廠打造的完整堆疊、加速器最佳化架構,結合 NVLink 垂直擴充、Spectrum-X 乙太網路與 Quantum InfiniBand 水平擴充、Spectrum-XGS 跨叢集擴充、用於基礎架構服務的 BlueField DPU (包括安全向內擴充存取與情境 KV 快取擴展),以及矽光子平台。這些技術在跨越數萬到數百萬個 GPU 的部署環境中,共同提供了 AI 工作負載所需的創新功能與效能特性。
AI 工廠現已包含數萬顆 GPU,以單一分散式運算引擎的形式運作,讓網路成為每個 AI 工作負載的關鍵路徑。 NVIDIA 網路技術提供確定性延遲、無損傳輸量與穩定的迭代時間,讓 GPU 在任何規模的訓練、推論與 RAG 工作負載中都能充分發揮利用率。
NVIDIA 為 AI 工廠提供四大網路平台:用於超大規模 AI 雲端網路的 Spectrum-X 乙太網路,比現成乙太網路效能高出 1.6 倍;以及用於低延遲 AI 訓練與具備網路內運算之 HPC 的 Quantum-X800 InfiniBand;BlueField DPU 用於基礎架構服務、安全與儲存卸載;以及矽光子共封裝光學技術,實現百萬 GPU 規模的節能交換能力。 Spectrum-XGS 乙太網路將上述所有設施跨多個站點擴展至統一的 AI 超級工廠。
NVIDIA Spectrum-X 乙太網路是一款專為 AI 打造的網路平台,其網路效能是現成乙太網路的 1.6 倍。 它為多租戶 AI 工作負載提供加速 RoCE 效能、確定性延遲與效能隔離,並透過 Spectrum-XGS 跨域擴充技術擴展至多個資料中心,將分散式設施整合至單一高效能 AI 架構。
NVIDIA Quantum InfiniBand 是一套高效能網路平台,可為 AI 與 HPC 工作負載提供超低延遲、網路內運算,以及新一代矽光子共封裝光學系統。憑藉加速集體運算的 SHARP 網路內運算技術,以及比傳統網路快 1,000 倍從鏈路故障中復原的自癒架構,Quantum InfiniBand 為 AI 訓練叢集與科學超級電腦提供業界最快速且最具擴充性的網路。
NVIDIA BlueField 平台展現前所未有的效能、效率與創新,為 AI 工廠這類專為 AI 打造的新型資料中心提供強大動力。 BlueField 具備強大運算能力,並整合適用於網路、儲存與安全性的軟體定義硬體加速器,可為任何環境中的任何工作負載打造安全且經過加速的基礎架構,開啟代理 AI 的新時代,讓自主式 AI 代理能夠大規模進行推理、協作與行動。
NVIDIA Spectrum-XGS 乙太網路是一項跨域擴充網路技術,將分散式資料中心連接至單一的統一 AI 超級工廠。相較於現成的站點間乙太網路,Spectrum-XGS 在多站點 AI 部署中提供高出 1.9 倍的 NCCL 效能,讓 AI 工廠擴展至超越任何單一建築物的電力與物理容量限制,同時保持與設施內 Spectrum-X 部署相同的高效能網路架構特性。
NVIDIA 矽光子網路技術將光學元件直接與交換器 ASIC 整合,無需使用可插拔收發器,相較於傳統可插拔設計,能效與正常運作時間提升 5 倍。 共封裝矽光子是物理層技術,可實現百萬級 GPU 規模與多站點 AI 工廠的網路功能,降低插入損耗,大幅提升訊號完整性與可靠性。
NVIDIA DOCA 是統一的軟體平台,可充分發揮 NVIDIA BlueField 與 NVIDIA ConnectX™ 在代理 AI 方面的完整潛力。它提供 SDK、函式庫、企業就緒的微服務與協調框架,涵蓋網路、AI 原生儲存、執行階段安全機制、遙測與生命週期管理,以加速、保護並擴展正式環境 AI 工作負載。 DOCA 是建置及營運智慧高效能 AI 工廠基礎架構的軟體基礎。