NVIDIA Quantum InfiniBand スイッチとアプライアンス

InfiniBand は、コンピューティング ノード間の低遅延で高帯域幅の通信向けに構築された高性能相互接続標準です。 数百または数千台の GPU にコンピューテーションを分散する AI トレーニングと HPC ワークロードにおいて、ネットワークの遅延はジョブの完了時間に直接影響します。 NVIDIA Quantum InfiniBand は、In-Network Computing をサポートする唯一の相互接続プラットフォームでもあり、AllReduce などの集合処理をスイッチ ファブリック自体にオフロードし、GPU サイクルを実際のコンピューテーションに使用します。

従来のスイッチ設計では、プラガブル光トランシーバーを使用して、スイッチ ASIC をファイバーに接続しています。 各トランシーバーは、電力を消費し、熱を発生させ、故障する可能性があるディスクリート コンポーネントです。 クラスター規模では、これはデプロイのライフタイムを通じて管理および交換が必要な数千もの個別のトランシーバーを意味します。

NVIDIA Quantum-X InfiniBand フォトニクス スイッチは、光エンジンとスイッチ シリコンを直接統合し、プラガブルトランシーバーを完全に排除します。 これにより、チップとファイバ間の電気経路が短縮され、電力消費と遅延を削減し、ディスクリート コンポーネントが少なくなることで、信頼性が向上し、長期運用が簡素化されます。

In-Network Computing は、NVIDIA Quantum スイッチが、ホスト CPU や GPU を関与させることなく、ネットワーク ファブリック内でデータ処理操作を実行する能力です。 主な機能は NVIDIA SHARP で、AllReduce などの集団通信を直接スイッチにオフロードします。分散型 AI トレーニングでは、これによりノード間通信に費やす時間が短縮され、GPU のコンピューテーションサイクルを解放します。 SHARP は、ほとんどの並列シミュレーション コードのコアで集団通信を高速化し、遅延と CPU オーバーヘッドを削減します。NCCL、OpenMPI、UCX、またはその他の標準準拠の MPI スタックを活用するアプリケーションは、最小限のコード変更でその恩恵を受けることができ、AI トレーニングから分子動力学、気候モデリングまで、あらゆる分野でインネットワーク コンピューティングが関連性を持つようになります。

新たな大規模 AI デプロイにおいて、最善の選択は、NVIDIA Quantum-X800 InfiniBand です。 800Gb/s XDR 接続を実現し、最大限のスケールアウト帯域幅、低遅延、適応型ルーティング、輻塞制御、AI および HPC の集団通信向けの SHARP In-Network Computing を必要とする次世代 AI ファクトリー向けに設計されています。Quantum-2 NDR 400Gb/s は、Hopper 世代またはコスト最適化されたデプロイにとって依然として強力なオプションですが、新しい Blackwell 規模のクラスターにおいて、Quantum-X800 は最高の長期的なパフォーマンス向上の可能性を提供します。 Q3200 は、Quantum-X800 2U 空冷スイッチ プラットフォームであり、高いポート密度と実用的な移行パスを必要とする大規模環境または世代が混在する環境に適しています。

NVIDIA Unified Fabric Manager (UFM) は、NVIDIA Quantum InfiniBand デプロイ向けのファブリック管理プラットフォームです。 UFM (統合アプライアンスおよびスタンドアロン ソフトウェアとして提供) は、ファブリック全体にわたるプロビジョニング、リアルタイム監視、診断、プロアクティブなトラブルシューティングを処理します。NVIDIA UFM Cyber-AI は、ジョブに影響を与える前にセキュリティの脅威やハードウェアの問題を示唆する可能性のある異常なネットワーク動作を検出するための専用アプライアンスです。

これは、既存のクラスターを拡張する組織、または段階的に構築する組織にとって一般的な考慮事項です。 一般に、NVIDIA Quantum InfiniBand は上位互換性を考慮して設計されています。InfiniBand の異なる世代で動作するアダプターとスイッチは、適切な共通速度に自動的にネゴシエーションします。 Quantum-X800 (XDR, 800 Gb/s) と Quantum-2 (NDR, 400 Gb/s) 環境を接続する必要があるデプロイでは、NVIDIA はこれら 2 つの世代を橋渡しするために設計されたマルチスピード スイッチ、Q3200 を推奨します。 Q3200 を使用したトポロジ、ポート マッピング、ファブリック構成に関する特定の設計上の考慮事項は、NVIDIA InfiniBand スイッチ ドキュメントで説明されています。

はい。NVIDIA Skyway™ アプライアンスは、このユース ケース向けに特別に設計されており、InfiniBand からイーサネットへのゲートウェイを提供します。 Skyway により、InfiniBand コンピューティング クラスターは、いずれの環境にも変更を加えることなく、イーサネット接続ストレージ システム、管理ネットワーク、またはその他のイーサネット インフラストラクチャと通信できます。 クロスファブリックでの帯域幅の需要が高まるにつれて、複数の Skyway アプライアンスを徐々にデプロイおよび拡張できます。