NVIDIA NVLink と NVLink Switch

NVLink は、GPU 間で 3.6 TB/秒の双方向直接相互接続であり、サーバー内でマルチ GPU の入出力 (IO) を拡張します。NVIDIA NVLink Switch チップは、複数の NVLink を接続し、ラック全体であらゆる GPU 通信を NVLink フルスピードで提供します。 

高速な集合操作を可能にするため、各 NVLink Switch には、ネットワーク内リダクションとマルチキャスト高速化のための NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™ 用エンジンが搭載されています。

Vera Rubin NVL72 の NVLink Switch チップは、ノンブロッキングのコンピューティング ファブリックで 72 基の GPU を完全接続できます。NVLink Switch は、すべての GPU ペアを驚異的な 3.6 TB/秒で相互接続します。完全な All-to-All 通信をサポートします。Vera Rubin NVL72 の 72 基の GPU は、最大 3.6 exaFLOPS の AI 演算能力を備えた 1 台の高性能アクセラレーターとして利用できます。

NVLink および NVLink Switch は、ハードウェア、ネットワーク、ソフトウェア、ライブラリ、および NVIDIA AI Enterprise ソフトウェア スイートと NVIDIA NGC™ カタログの最適化された AI モデルとアプリケーションを組み込んだ完全な NVIDIA データセンター ソリューションの必須構成要素です。最もパワフルなエンドツーエンド AI/HPC プラットフォームであり、研究者は現実に成果を出し、ソリューションを本番環境に展開でき、かつてない高速化があらゆる規模で可能となります。