ネットワークが AI データ センターを定義する
高性能で拡張性のある安全なギガスケール AI ファクトリー向けの次世代ネットワーク。
はじめに
AI ファクトリー時代に特化したネットワーク
AI ファクトリーは、現在、数万基の GPU で構成され、やがて数百万基に達する規模となり、単一の分散コンピューティング エンジンとして機能します。 アクセラレーターを最大限に活用し続けるために、AI ワークロードには確定的な遅延、ロスレスのスループット、安定したイテレーション時間、データセンター内だけでなく複数のサイトにわたる拡張能力が求められます。
NVIDIA ネットワークは、これを可能にするフルスタック ファブリックを提供し、NVIDIA NVLink™ スケールアップ、NVIDIA Quantum InfiniBand と Spectrum-X™ イーサネット スケールアウト、Spectrum-XGS マルチデータセンター スケールアクロス、インフラ サービス向けの NVIDIA BlueField™ DPU と DOCA™、そして次世代シリコンフォトニクス プラットフォームを組み合わせて、世界最先端の AI ファクトリーを支えます。
AI エージェント向けの信頼できる基盤
NVIDIA Sentry と BlueField™ は、NVIDIA OpenShell リファレンス アーキテクチャ上で実行されるインシリコン、アウトオブバンドのエージェント セキュリティを提供します。
テクノロジ
NVIDIA AI ネットワーキングを定義するイノベーション
NVIDIA は、GPU、SuperNIC™、DPU、スイッチ、オプティクス、ソフトウェアを組み合わせて徹底的に共同設計されたアーキテクチャに統合してネットワークを構築し、大規模な環境において妥協のない予測可能なパフォーマンスを提供します。
利点
AI ファクトリー向けのアクセラレーテッド ネットワーク
最新情報
ネットワーキングの最新情報
NVIDIA ネットワーキング FAQ
NVIDIA ネットワーキングは、AI ファクトリー向けに特別に構築された、アクセラレーターに最適化されたフルスタック ファブリックです。これには、NVLink スケールアップ、Spectrum-X イーサネットと Quantum InfiniBand スケールアウト、Spectrum-XGS スケールアクロス、インフラサービス向けの BlueField DPU (KV キャッシュ向けの安全なスケールインアクセスとコンテキスト スケールを含む)、およびシリコン フォトニクス プラットフォームが組み合わされています。これらのテクノロジを組み合わせることで、数万台から数百万台の GPU に及ぶ規模の環境において、AI ワークロードに必要な革新的な機能とパフォーマンス特性を実現します。
AI ファクトリーは、数万基の GPU が単一の分散コンピューティング エンジンとして動作する規模に達しており、ネットワークはあらゆる AI ワークロードのクリティカル パスとなっています。 NVIDIA ネットワークは、予測可能な遅延、パケットロスのないスループット、安定したイテレーション時間を実現し、あらゆる規模のトレーニング、推論、および RAG ワークロード全体で GPU の稼働率を最大限に維持します。
NVIDIA は、AI ファクトリー向けに 4 つの主要なネットワーク プラットフォームを提供しています。ハイパースケール AI クラウド ネットワーク向けの Spectrum-X イーサネットは、市販のイーサネットと比較して 1.6 倍のパフォーマンスを実現します。また、Quantum-X800 InfiniBand は、In-Network Computingにより、低遅延の AI トレーニングと HPC を実現します。インフラ サービス、セキュリティ、およびストレージ オフロード向けの BlueField DPU、そして 100 万 GPU 規模で電力効率の高いスイッチングを実現する、シリコン フォトニクスを用いたコパッケージド オプティクス (CPO) があります。Spectrum-XGS イーサネットは、これらすべてを複数のサイトに拡張し、統合された AI スーパー ファクトリーへとつなぎます。
NVIDIA Spectrum-X イーサネットは、AI 向けに特別に構築されたネットワーク プラットフォームであり、市販のイーサネットと比較して 1.6 倍のネットワーク パフォーマンスを実現します。 マルチテナント AI ワークロード向けに、高速な RoCE パフォーマンス、予測可能な遅延、パフォーマンス分離を提供します。また、Spectrum-XGS スケールアクロス テクノロジを活用して複数のデータ センターに拡張し、分散した施設を単一の高性能 AI ファブリックに統合します。
NVIDIA Quantum InfiniBand は、AI および HPC ワークロード向けに、超低遅延、ネットワーク内コンピューティング、次世代のシリコン フォトニクスを用いたコパッケージド オプティクス システムを提供する高性能ネットワーク プラットフォームです。 集合通信を高速化する SHARP In-Network Computingと、従来のネットワークと比較して 1,000 倍高速にリンク障害から回復する自己修復ファブリックにより、Quantum InfiniBand は、AI トレーニング クラスターや科学用スーパーコンピューター向けに、業界で最速かつ最もスケーラブルなネットワークを提供します。
NVIDIA BlueField プラットフォームは、かつてないパフォーマンス、効率性、イノベーションを実現し、AI 向けに特別に構築された新しいタイプのデータ センターである AI ファクトリーを支えます。 強力な演算能力と、ネットワーク、ストレージ、セキュリティ向けの統合されたソフトウェア デファインド ハードウェア アクセラレーターにより、BlueField は、あらゆる環境のあらゆるワークロードに対応する安全で高速化されたインフラを構築し、自律エージェントが大規模に推論、コラボレーション、行動するエージェント型 AI の新時代を切り開きます。
NVIDIA Spectrum-XGS イーサネットは、分散データセンターを単一の統合 AI スーパー ファクトリーに接続するスケール アクロス ネットワーク テクノロジです。Spectrum-XGS は、マルチサイト AI 環境向けに、汎用のサイト間イーサネットと比較して 1.9 倍高い NCCL パフォーマンスを実現します。これにより、AI ファクトリーが、施設内でのデプロイと同様に高性能なファブリック特性を維持しながら、単一建物の電力および物理容量の制限を超えて拡張できるようになります。
NVIDIA シリコン フォトニクス ネットワークは、光コンポーネントをスイッチ ASIC に直接統合します。これにより、着脱式トランシーバーを不要にし、従来の着脱式設計と比較して、5 倍の電力効率とアップタイムを実現します。 コパッケージド シリコン フォトニクスは、100 万 GPU 規模のネットワークとマルチサイト AI ファクトリーを可能にし、挿入損失を低減することで、信号の完全性と信頼性を大幅に向上させる物理レイヤー テクノロジです。
NVIDIA DOCA は、エージェント型 AI 向けに NVIDIA BlueField と NVIDIA ConnectX™ の可能性を最大限に引き出す統合ソフトウェア プラットフォームです。ネットワーク、AI ネイティブ ストレージ、ランタイム セキュリティ、テレメトリ、ライフサイクル管理を網羅する SDK、ライブラリ、エンタープライズ対応マイクロサービス、オーケストレーション フレームワークを提供し、本番環境の AI ワークロードを高速化、保護、拡張します。 DOCA は、インテリジェントで高性能な AI ファクトリーインフラを構築し、運用するためのソフトウェア基盤です。