NVIDIA Quantum-2 InfiniBand
架構

適用於任何規模雲端原生超級運算的極致效能

在網路通訊中創下效能記錄

NVIDIA Quantum-2 是 NVIDIA InfiniBand 架構的第七代,為人工智慧開發人員和科學研究人員提供最快的網路效能和功能集,以應對世界上最具挑戰性的問題,並能為領先全球的超級運算資料中心提供強大功能:軟體定義網路、遠端直接記憶體存取 (RDMA)、網路內運算、進階加速引擎以及最快的速度和高達每秒 400 Gb 的輸出。

2X Data Throughput

加速資料傳輸

4X MPI Performance

效能增加

5X Switch System Capacity

增進總體擁有成本

6.5X Higher Scalability

適用百億億次級運算

32X More AI Acceleration

加速深度學習

具突破性的效能

強化高效能運算、人工智慧超級電腦和應用程式

提升網路內運算速度

現今的高效能運算 (HPC)、人工智慧和超大規模基礎架構需要更快的互連技術和更智慧的網路,才能在分析數據和執行複雜模擬時,提升速度和效率。NVIDIA Quantum-2 採用預先設定且可程控的運算引擎,如第三代 NVIDIA 可擴充的分層彙總和精簡通訊協定 (SHARPv3)™、訊息傳遞介面 (MPI) 標籤配對、MPI All-to-All 和可程控的引擎,藉以強化並延伸網路內運算,為每個節點提供最理想的成本和投資報酬率。

 
Benefits of Performance Isolation

效能隔離

NVIDIA Quantum-2 InfiniBand 平台提供創新的主動監控和壅塞管理,以提供流量隔離,幾乎能排除所有效能不穩定的現象,還可確保預期效能有如應用程式在專用系統上執行一般。

雲端原生超級運算

NVIDIA 雲端原生超級運算平台運用 NVIDIA® BlueField® 資料處理器 (DPU) 架構和高速且低延遲的 NVIDIA Quantum-2 InfiniBand 網路。本解決方案提供裸機效能、使用者管理和隔離、資料保護、隨選即用的高效能運算 (HPC) 和人工智慧服務,一切都簡單且安全。

Data center with NVIDIA Quantum-2 InfiniBand architecture with SHARPv3 technology

以光速傳輸資料

主通道配接器

NVIDIA ConnectX-7 InfiniBand 主通道配接器 (HCA) 提供最高網路效能,可處理全球最具挑戰性的工作負載。

ConnectX-7 InfiniBand 主通道配接器採用第四代和第五代 PCIe,支援各種尺寸規格,提供單或雙網路連接埠每秒 400 Gb 的傳輸速度。

ConnectX-7 InfiniBand 主通道配接器包括進階的網路內運算功能,配備 MPI All-to-All 及 MPI 標籤配對硬體引擎。為了提高服務品質 (QoS),也進行如自適應路由和擁塞控制等架構改進。主通道配接器也包含其他可程控引擎,可啟用預先處理的資料演算法,並且將應用程式控制路徑卸載至網路。這種方式可提供更高效能和可擴充性,並強化運算和通訊之間的重疊。

固定組態交換器

NVIDIA Quantum-2 系列的固定組態交換器由 64 個每秒 400 Gb 的連接埠或 128 個每秒 200 Gb 連接埠組成,使用 32 個實體八進位小型插入式 (OSFP) 連接器。這款小巧的 1U 交換器在設計上提供由內部或外部管理的氣冷和水冷版本。

NVIDIA Quantum-2 系列的固定組態交換器每秒可彙總 51.2 Tb 的雙向輸送量且每秒可以處理超過 665 億個封包。這款交換器是最理想的機架式 InfiniBand 解決方案,可為 Fat Tree、DragonFly+、多維度 Torus、Hypercube 等各種拓撲 (topology) 提供最大的彈性。

模組化交換器

NDR Quantum-2 系列的模組化交換器提供下列連接埠設定:

  • 2,048 個每秒 400 Gb 的連接埠或 4,096 個每秒 200 Gb 的連接埠
  • 1,024 個每秒 400 Gb 的連接埠或 2,048 個每秒 200 Gb 的連接埠
  • 512 個每秒 400 Gb 的連接埠或 1,024 個每秒 200 Gb 的連接埠

最大型模組化交換器的總雙向輸送量為每秒 1.64 Pb,比前一代的 NVIDIA Quantum InfiniBand 模組化交換器高 5 倍。

收發器及纜線

NDR Quantum-2 的連線規格選項包括各種收發器及多芯光纖跳線連接器 (MPO)、主動式銅纜線 (ACC) 和直連纜線 (DAC),並支援 1 到 2 和 1 到 4 的分隔器選項。這能提供最大的彈性,並以最佳效能打造出任何拓撲 (topology)。

領先全球的網路效能、可擴充性和效率

效能

  • 每個連接埠的頻寬為每秒 400 Gb
  • 單一交換器中有 64 個每秒 400 Gb 的連接埠或 128 個每秒 200 Gb 的連接埠
  • 單一模組化交換器中有 2,048 個每秒 400 Gb 的連接埠或 4,096 個每秒 200 Gb 的連接埠
  • 在單一 NVIDIA Quantum 2 交換器裝置上每秒處理超過 665 億個封包 (雙向)

打破自我記錄

  • 每個連接埠的頻寬為前一代的 2 倍
  • 交換器基數為前一代的 3 倍
  • 4 倍 MPI 效能
  • 每個交換器的人工智慧加速效能比前一代高 32 倍
  • 在 4 個交換器層級 (3 個躍點) 的 DragonFly+ 網路中,擁有超過 100 萬個每秒 400 Gb 的節點,比前一代高 6.5 倍
  • 資料中心的功耗和空間減少 7%

主要特色

  • 完整的傳輸卸載
  • RDMA、GPUDirect® RDMA、GPUDirect 儲存空間
  • 可程控的網路內運算引擎
  • MPI All-to-All 硬體加速
  • MPI 標籤配對硬體加速
  • NVIDIA SHARPv3
  • 進階自適應路由、擁塞控制和 QoS
  • 自我修復網路

閱讀完整的架構簡介,深入瞭解 NVIDIA Quantum-2 InfiniBand 平台。