NVIDIA NVLink 與 NVLink 交換器

NVLink 是 3.6 TB/s 的雙向直接 GPU 互連技術，可擴充伺服器內多顆 GPU 的輸入和輸出 (IO) 規模。NVIDIA NVLink 交換器晶片連接多個 NVLink，在整個機架內以完整的 NVLink 速度提供 GPU 全互連通訊。

為實現高速集體作業，每款 NVLink 交換器皆配備 NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™ 引擎，實現網路歸約 (in-network reduction) 並加速多播 (multicast) 通訊。

Vera Rubin NVL72 採用 NVLink 交換器晶片，可讓 72 顆 GPU 在非阻塞運算網狀架構完全互連。NVLink 交換器以驚人的 3.6 TB/s 速度互連每一對 GPU。支援完整的 all-to-all 通訊。Vera Rubin NVL72 中的 72 顆 GPU 可作為單一高效能加速器，AI 運算能力高達 3.6 exaFLOPS。

完整的 NVIDIA 資料中心解決方案整合了硬體、網路、軟體、函式庫以及 NVIDIA AI Enterprise 軟體套件與 NVIDIA NGC™ 目錄上的最佳化 AI 模型和應用程式，而 NVLink 與 NVLink 交換器則是解決方案的重要基石。 此功能最強大的端對端人工智慧和高效能運算平台，可以讓研究人員提供真實世界結果，並將解決方案部署到生產環境中，為各種規模的作業提供前所未有的加速效能。