網路定義 AI 資料中心

新一代網路技術,為高效能、可擴充且安全的千兆級 AI 工廠而生。

簡介

專為 AI 工廠時代打造的網路

AI 工廠 如今已擴展至數萬顆 GPU,並且很快將達到數百萬顆,運作時如同單一分散式運算引擎。AI 工作負載需要確定性延遲、無損傳輸量、穩定的迭代時間,以及在資料中心內跨多個站點擴充的能力,才能充分利用加速器。

NVIDIA 網路提供完整堆疊網狀架構,實現了這項目標,結合 NVIDIA NVLink™ 垂直擴充、NVIDIA Quantum InfiniBand 與 Spectrum-X™ 乙太網路 橫向擴充、Spectrum-XGS 多資料中心跨向擴充、NVIDIA BlueField™ DPU 與 DOCA™用於基礎架構服務,以及新一代矽光子技術平台,驅動全球最先進的 AI 工廠。

NVIDIA 推出 Minerva,為 AI 工廠帶來端到端可觀測性

全新 AIOps 平台串連基礎架構與工作負載遙測,協助營運商延長正常運作時間並最大化 AI 工廠的良率。

以 AI 代理速度實現的晶片內建安全機制

NVIDIA Sentry 採用 NVIDIA OpenShell 參考架構,在 NVIDIA BlueField 上執行,提供頻外、晶片內的安全機制,持續監控代理的行為並在幾毫秒內隔離威脅,即使主機受到入侵也不例外。

NVIDIA DOCA 企業就緒的函式庫與微服務生態系統

AI 代理的可信任基礎

NVIDIA Sentry 與 BlueField™ 提供在 NVIDIA OpenShell 參考架構上執行的晶片內、頻外代理安全性。

技術

形塑 NVIDIA AI 網路樣貌的創新技術

NVIDIA 將網路建構為整合式 AI 平台的一環,將 GPU、SuperNIC™s、DPU、交換器、光學模組和軟體整合至極致的共同設計架構,在大規模部署下提供極致且穩定可預測的效能。

AI 的加速乙太網路

NVIDIA Spectrum-X 乙太網路平台專為 AI 打造,網路效能是現成 (OTS) 乙太網路的 1.6 倍。Spectrum-XGS 乙太網路橫向擴充技術可實現橫跨機架、建築物和整個園區的高效能 AI 網狀架構。

適用於人工智慧和科學運算的 InfiniBand

NVIDIA Quantum InfiniBand 架構採用超低延遲的網路內運算新一代矽光子學 CPO 系統,為 AI 與高效能運算提供業界最快速且可擴充性最高的網路。

資料中心基礎架構的加速運算

NVIDIA BlueField 結合高效能 AI 網路與強大的運算能力,為代理 AI 工廠提供動力。 BlueField 提供高達 800 Gb/s 的連線能力,包括即時威脅偵測與 AI 代理政策執行功能的晶片內安全機制,以及 AI 原生儲存加速,為任何環境中的任何工作負載打造安全且加速的基礎架構。

優勢

AI 工廠的加速網路

效能加速

NVIDIA 網路提供完整堆疊的加速器最佳化網狀架構,可將長尾延遲降至最低、維持迭代時間穩定,並在訓練與推論過程充分利用 GPU。

千兆級

NVIDIA 網路透過高基數交換的共同封裝光學與 Spectrum-XGS 乙太網路技術,將設施整合至單一高效能 AI 網狀架構,實現千兆級成長規模的成長。

晶片級安全機制

NVIDIA Sentry 與 NVIDIA BlueField 將即時頻外晶片內安全強制執行機制帶入代理 AI,持續監控代理行為,並在幾毫秒內隔離威脅,這是 NVIDIA OpenShell 參考架構的一環。

協調

可擴展的現代化網路營運框架 (例如 NVIDIA Minerva、UFM 和 DOCA),運用網路遙測提供採用 AI 技術的資安情報和分析功能,確保您的 AI 網路網狀架構穩定運作。

模擬

使用 NVIDIA DSX Air 建置資料中心網路的數位孿生:這是託管在雲端的虛擬環境,可用來設計、測試和驗證網路佈建、自動化和安全性原則。

基礎架構效率

NVIDIA 加速網路透過節能設計、以共同封裝光學技術將連線最佳化,以及智慧型網路內處理,打造高效能的基礎架構。

最新消息

掌握網路的最新消息

NVIDIA 推出 Rubin 平台,引爆 AI 產業革命的智慧技術突飛猛進

NVIDIA Spectrum-X Ethernet Photonics 交換器系統,讓能源效率與系統運作時間提升 5 倍。全新 NVIDIA 推論情境記憶體儲存平台採用 NVIDIA BlueField-4 儲存處理器,能為 AI 推理提供所需的動力。

NVIDIA Sentry 透過 NVIDIA OpenShell 參考架構強化代理安全

NVIDIA Sentry 作為 NVIDIA OpenShell 參考架構的一環,提供晶片級代理安全機制。這是一款完整堆疊的工業級開放式架構,是 NVIDIA Open Agent Safety Platform 的基礎。

NVIDIA Spectrum-X 乙太網路為 Meta、Microsoft 和 Oracle 網路加速

超大規模企業採用 NVIDIA 開放式網路平台,以提升千兆級 AI 資料中心效能。

NVIDIA 推出 Minerva,為 AI 工廠帶來端到端可觀測性

全新 AIOps 平台串連基礎架構與工作負載遙測,協助營運商延長正常運作時間並最大化 AI 工廠的良率。


NVIDIA 網路常見問答集

NVIDIA 網路技術是一套專為 AI 工廠打造的完整堆疊、加速器最佳化架構,結合 NVLink 垂直擴充、Spectrum-X 乙太網路與 Quantum InfiniBand 水平擴充、Spectrum-XGS 跨叢集擴充、用於基礎架構服務的 BlueField DPU (包括安全向內擴充存取與情境 KV 快取擴展),以及矽光子平台。這些技術在跨越數萬到數百萬個 GPU 的部署環境中,共同提供了 AI 工作負載所需的創新功能與效能特性。

AI 工廠現已包含數萬顆 GPU,以單一分散式運算引擎的形式運作,讓網路成為每個 AI 工作負載的關鍵路徑。 NVIDIA 網路技術提供確定性延遲、無損傳輸量與穩定的迭代時間,讓 GPU 在任何規模的訓練、推論與 RAG 工作負載中都能充分發揮利用率。

NVIDIA 為 AI 工廠提供四大網路平台:用於超大規模 AI 雲端網路的 Spectrum-X 乙太網路,比現成乙太網路效能高出 1.6 倍;以及用於低延遲 AI 訓練與具備網路內運算之 HPC 的 Quantum-X800 InfiniBand;BlueField DPU 用於基礎架構服務、安全與儲存卸載;以及矽光子共封裝光學技術,實現百萬 GPU 規模的節能交換能力。 Spectrum-XGS 乙太網路將上述所有設施跨多個站點擴展至統一的 AI 超級工廠。

NVIDIA Spectrum-X 乙太網路是一款專為 AI 打造的網路平台,其網路效能是現成乙太網路的 1.6 倍。 它為多租戶 AI 工作負載提供加速 RoCE 效能、確定性延遲與效能隔離,並透過 Spectrum-XGS 跨域擴充技術擴展至多個資料中心,將分散式設施整合至單一高效能 AI 架構。

NVIDIA Quantum InfiniBand 是一套高效能網路平台,可為 AI 與 HPC 工作負載提供超低延遲、網路內運算,以及新一代矽光子共封裝光學系統。憑藉加速集體運算的 SHARP 網路內運算技術,以及比傳統網路快 1,000 倍從鏈路故障中復原的自癒架構,Quantum InfiniBand 為 AI 訓練叢集與科學超級電腦提供業界最快速且最具擴充性的網路。

NVIDIA BlueField 平台展現前所未有的效能、效率與創新,為 AI 工廠這類專為 AI 打造的新型資料中心提供強大動力。 BlueField 具備強大運算能力,並整合適用於網路、儲存與安全性的軟體定義硬體加速器,可為任何環境中的任何工作負載打造安全且經過加速的基礎架構,開啟代理 AI 的新時代,讓自主式 AI 代理能夠大規模進行推理、協作與行動。

NVIDIA Spectrum-XGS 乙太網路是一項跨域擴充網路技術,將分散式資料中心連接至單一的統一 AI 超級工廠。相較於現成的站點間乙太網路,Spectrum-XGS 在多站點 AI 部署中提供高出 1.9 倍的 NCCL 效能,讓 AI 工廠擴展至超越任何單一建築物的電力與物理容量限制,同時保持與設施內 Spectrum-X 部署相同的高效能網路架構特性。

NVIDIA 矽光子網路技術將光學元件直接與交換器 ASIC 整合,無需使用可插拔收發器,相較於傳統可插拔設計,能效與正常運作時間提升 5 倍。 共封裝矽光子是物理層技術,可實現百萬級 GPU 規模與多站點 AI 工廠的網路功能,降低插入損耗,大幅提升訊號完整性與可靠性。

NVIDIA DOCA 是統一的軟體平台,可充分發揮 NVIDIA BlueField 與 NVIDIA ConnectX™ 在代理 AI 方面的完整潛力。它提供 SDK、函式庫、企業就緒的微服務與協調框架,涵蓋網路、AI 原生儲存、執行階段安全機制、遙測與生命週期管理,以加速、保護並擴展正式環境 AI 工作負載。 DOCA 是建置及營運智慧高效能 AI 工廠基礎架構的軟體基礎。

資源

繼續探索 NVIDIA 網路

Featured

See All