NVIDIA エンタープライズ リファレンス アーキテクチャ。

エンタープライズ リファレンス アーキテクチャ

拡張可能な AI ファクトリーを構築

NVIDIA エンタープライズ リファレンス アーキテクチャでデータセンターを高性能な AI ファクトリーに変革しましょう。

概要

AI の成功を支える構成要素

NVIDIA エンタープライズ リファレンス アーキテクチャ (Enterprise RA) により、組織は検証済みで再現可能なインフラを使用して、高性能な AI ファクトリーを設計、デプロイ、拡張できるようになります。 これらの設計は、認定済みのコンピューティング、高速な東西ネットワークおよび南北ネットワーク、可観測性ツール、ソフトウェアを組み合わせて、4 ノード クラスターからエンタープライズ規模の環境まで、スケーラブルなパフォーマンスを確保します。

Palantir が NVIDIA と提携し、ソブリン AI オペレーティング システム リファレンス アーキテクチャを提供

Palantir Sovereign AI OS リファレンス アーキテクチャは、NVIDIA Enterprise RA を基盤にしており、NVIDIA AI インフラで Palantir の完全なソフトウェア スイートを実行できるようテストおよび認定を受けています。

実証済みの設計および検証済みの性能

実環境のデプロイと実証済みの構成を基盤に構築されたエンタープライズ RA が、スケーラブルな AI インフラ向け計画を簡素化し、ROI を最大化する方法をご覧ください。

エンタープライズ リファレンス アーキテクチャ

包括的な製品ファミリのガイド

データ センターでクラスターをセットアップする手順の包括的セットが利用可能になりました。

インフラ

NVIDIA のエンタープライズ リファレンス アーキテクチャは、検証済みのハードウェア構成のほか、CPU-GPU-ネットワーク ノード パターン、配線図、インフラの詳細が含まれます。

ネットワーク ロジック

『エンタープライズ リファレンス アーキテクチャ向けネットワーク構成および論理アーキテクチャ ロジック ガイド』には、NVIDIA Air 上の VLAN 設計とネットワーク シミュレーションによるノード管理とプロビジョニングの手順が記載されています。

ソフトウェア

エンタープライズ RA 向けソフトウェア リファレンス スタックでは、インフラ クラスターの管理、プロビジョニング、サイジングのためのソフトウェアの概要を説明します。 現在のリリースは、NVIDIA AI EnterpriseNVIDIA Run:ai ソフトウェアを活用したオープンソースの Kubernetes に焦点を当てています。

可観測性

NVIDIA エンタープライズ リファレンス アーキテクチャの可観測性ガイドでは、Prometheus や Grafana などのオープンソース ツールを活用し、クラスター全体の GPU とネットワーク性能を監視します。 ダッシュボードは、システムの健全性とワークロードの効率性に関するリアルタイムの指標を提供します。

デプロイ

NVIDIA エンタープライズ リファレンス アーキテクチャ向けデプロイ ガイドは、NVIDIA チームがプログラムを構築した社内クラスターの立ち上げ、デプロイ、テスト、検証から学んだインフラのベスト プラクティスをまとめたものです。

ストレージ

NVIDIA 認定ストレージ プログラムは、エンタープライズ RA に統合するために設計されたストレージ ガイドを作成した、一部のパートナーによる補完的な取り組みです。 このユニークなプログラムの詳細をご覧ください

ユース ケース

あらゆるユース ケースに対応できる設計

実績のある NVIDIA エンタープライズ リファレンス アーキテクチャとグローバル パートナーの NVIDIA-Certified Systems により、エージェント型 AI、フィジカル AI、高性能コンピューティング (HPC)、AI シミュレーション ワークロードを高速化します。エンタープライズ AI ファクトリーをデプロイするためのプライマリ インフラ クラスター構成の概要を以下に示します。

NVIDIA RTX PRO AI ファクトリー

NVIDIA RTX PRO™ AI ファクトリー構成は、生成 AI、エージェント型 AI、データ分析、ビジュアル コンピューティング、エンジニアリング シミュレーションなど、幅広いエンタープライズ ワークロード向けに設計されています。デプロイは、16 ノードおよび 32 ノードの設計ポイントを中心に最適化され、パフォーマンス、拡張性、デプロイ効率の理想的なバランスを実現します。エンタープライズ AI、シミュレーション、ビジュアル コンピューティング全体にわたる汎用的なワークロード高速化を目的に設計された NVIDIA RTX PRO サーバーは、PCIe 環境向けに最適化されており、スペース、電力、冷却の制約があるデータ センターに最適です。 最新の AI ワークロード向けに構築されたこれらの製品は、エージェント型と大規模言語モデル (LLM) 推論において効率的なパフォーマンスを発揮します。

NVIDIA HGX AI ファクトリー

高性能な NVIDIA HGX™ AI ファクトリー構成は、NVIDIA HGX システムを活用し、大規模なマルチノード AI のトレーニングと推論向けに構築されています。 32、64、128 ノードの設計ポイントで利用可能で、NVIDIA Spectrum-X™ ネットワークによってサポートされているこのアーキテクチャは、柔軟なレール最適化設計を採用しており、高スループットと低遅延のパフォーマンスを実現しながら、多様なラック レイアウト全体で効率的な統合を可能にします。最も要求の厳しいワークロードを実行する AI パワー ユーザーに画期的なパフォーマンスを提供し、大規模モデルのトレーニングとファインチューニングを可能にし、推論を劇的に高速化します。 次世代の精度と超高速相互接続により、このソリューションは最大 15 倍のトークン スループットを実現します。

NVIDIA NVL72 AI ファクトリー

NVIDIA NVL72 AI ファクトリー構成は、1 兆パラメーター モデルのトレーニングとデプロイを目的に設計されており、単一ラック内でエクサスケールの演算能力を実現します。 大規模なモデル スループット、マルチユーザー推論、リアルタイム推論向けに構築され、次世代の AI 駆動型のイノベーションの未来を可能にします。 デプロイ設計ポイントは、4 ラックおよび 8 ラック構成を中心にしています。 柔軟なレール最適化ネットワークを基盤に構築されたこのアーキテクチャは、多様なラック レイアウトとシステム設計に適応しながら、高帯域幅と低遅延のパフォーマンスを実現します。 このプラットフォームは、業界をリードするエネルギー効率に優れた AI ファクトリー出力を実現し、第 5 世代 NVIDIA NVLink™、FP4 Tensor コア、高度なサーマル イノベーションを搭載しています。

利点

エンタープライズ リファレンス アーキテクチャの戦略的価値

実績のあるパートナー対応の構成で、スケーラブルで高性能な AI インフラストラクチャを実現します。

AI ワークロードのピーク パフォーマンス

マルチノード クラスター全体で完全な GPU 利用率とパフォーマンスの一貫性を確保するアーキテクチャにより、AI 推論、ファインチューニング、トレーニングの集中的な要求に対応します。

柔軟なスケーリング、運用の簡素化

インフラを簡単に拡張し、最大 128 ノードに対してスケーラブルで効率的なデプロイを実現します。 NVIDIA のソフトウェア エコシステムを活用した NVIDIA Enterprise AI ファクトリー検証済み設計により、フルスタック ソリューションの基盤を構築します。

複雑性と TCO の削減

デプロイ プロセスと効率的な設計の簡素化、複雑さの軽減と総所有コスト (TCO) の軽減、価値実現までの時間を短縮します。

サポート可能性

特定の標準化された設計パターンに従い、設置ごとに一貫した運用が可能になり、頻繁なサポートの必要性が削減され、より迅速な解決が実現します。

パートナー

パフォーマンスを高めるパートナーシップ

私たちは、大手パートナーがエンタープライズ リファレンス アーキテクチャと AI ファクトリー ソリューションを市場に投入する取り組みに協力できることを誇りに思っています。 これらのパートナーの承認済み設計は、当社の設計審査委員会に合格しており、インフラ、ネットワーク ロジック、ソフトウェアの 1 つ以上のカテゴリーで当社の承認を得るためのガイダンスを提供しています。

NVIDIA による Palantir Sovereign AI OS リファレンス アーキテクチャ

Palantir Sovereign AI OS リファレンス アーキテクチャは、NVIDIA Enterprise RA を基盤にしており、グローバル システム パートナーとの間で、Palantir の完全なソフトウェア スイートを NVIDIA AI インフラ上で実行できるようテストおよび認定を受けています。 このソブリン AI アーキテクチャは、遅延の影響を受けやすいワークフロー、データ主権要件、地理的な分散を重視するお客様にとって重要です。 このアーキテクチャは、企業が自社のデータ、AI モデル、アプリケーションを完全に制御できるようにします。

関連情報

エンタープライズ リファレンス アーキテクチャの詳細を見る

NVIDIA RTX PRO AI ファクトリー リファレンス アーキテクチャ

NVIDIA RTX PRO AI ファクトリー構成は、エージェント型 AI 推論、フィジカルおよび産業用 AI、ビジュアル コンピューティング、データ分析とシミュレーション向けの高性能コンピューティングなど、幅広いエンタープライズ ワークロードをサポートします。 このドキュメントでは、このスケーラブルでモジュール式のアーキテクチャを支えるハードウェア コンポーネントについて詳しく説明します。

NVIDIA HGX AI ファクトリー リファレンス アーキテクチャ

NVIDIA HGX AI ファクトリー構成は、高性能な AI 推論、モデルのトレーニング、ファインチューニングに焦点を当てています。 このドキュメントでは、クラスターの相互接続に使用されるクラスター ガイダンスやネットワーク ファブリック トポロジなど、スケーラブルなモジュール式アーキテクチャのハードウェア コンポーネントの概要を説明します。

NVIDIA Run:ai で大規模なトークン スループットを活用

Nebius との共同ベンチマークでは、NVIDIA エンタープライズ リファレンス アーキテクチャ上で NVIDIA Run:ai を使用した分割 GPU デプロイは、本番環境の LLM ワークロードのスループットと利用率を大幅に改善することが示されています。

NVIDIA エンタープライズ リファレンス アーキテクチャの概要

このホワイトペーパーでは、32 から 1,024 の GPU を対象としたエンタープライズ クラスのデプロイ向け AI ファクトリーの設計と構築において、実績のあるガイダンスを提供する NVIDIA エンタープライズ リファレンス アーキテクチャを紹介します。 これらのアーキテクチャは、AI インフラのデプロイの簡素化、運用の複雑さの軽減、価値実現までの時間の短縮に役立ちます。

南北ネットワーク: エンタープライズ AI ワークロードを高速化する鍵

NVIDIA エンタープライズ リファレンス アーキテクチャは、南北と東西の両方のネットワークを活用する AI ファクトリーをデプロイする組織をガイドし、スケーラブルで安全で高性能な AI インフラを実現する設計レシピを提供します。

新しいエンタープライズ リファレンス アーキテクチャで NVIDIA H200 NVL を大規模にデプロイ

NVIDIA H200 NVL は、強化されたメモリ、高速 NVLink、最適化されたエンタープライズ RA 構成により、AI デプロイを高速化します。

NVIDIA の AI ファクトリーが大規模なエンタープライズ イノベーションを推進

NVIDIA は、生成 AI とエージェント型ワークフローを企業全体で拡張させる統合 AI ファクトリーを構築し、セキュリティ、パフォーマンス、そして一貫性を確保しています。 このプラットフォームは、イノベーションの高速化、ソフトウェアおよびハードウェア エンジニアリングの効率化、サプライチェーンの運用の最適化を行う数百の AI エージェントをサポート。計画時間を 95% 以上短縮し、数十年分に相当するエンジニアリング作業をわずか 1 年で実現します。

次のステップ

さっそく始めませんか?

NVIDIA エンタープライズ AI ファクトリーの詳細をご覧ください。

NVIDIA エンタープライズ リファレンス アーキテクチャの詳細を見る

NVIDIA エンタープライズ リファレンス アーキテクチャが、高性能な AI インフラの導入に向けたスケーラブルで規範となるブループリントを提供する方法をご紹介します。

クラスター構成 2-8-5-200 仕様

クラスター構成 2-8-9-400 仕様

クラスター構成 2-4-6-400 仕様

Cisco は、AI 時代において組織の接続とセキュリティに革命をもたらす世界的なテクノロジ リーダーです。 40 年以上にわたり、Cisco は世界中を安全に接続してきました。 業界をリードする AI を活用したソリューションとサービスにより、Cisco は顧客、パートナー、コミュニティがイノベーションを解き放ち、生産性を向上させ、デジタル レジリエンスを強化できるようにします。 中核にある使命に基づき、Cisco はすべての人々のためによりつながりのある、包括的な未来を築くことに引き続き尽力しています。

NVIDIA 設計審査委員会が承認したソリューション:

Dell Technologies は、組織や個人がデジタルの未来を築き、働き方、暮らし方、遊び方を変革するのを支援します。同社は、AI 時代に向けて、業界で最も幅広く革新的なテクノロジとサービスのポートフォリオを顧客に提供しています。

NVIDIA 設計審査委員会が承認したソリューション:

HPE は、企業に必須なテクノロジ分野のリーダーであり、AI、クラウド、ネットワークの力を結集し、組織がより多くのことを達成できるように支援します。 可能性のパイオニアとして、私たちのイノベーションと専門知識は、人々の生活と働き方を進化させます。 私たちは、あらゆる業界のお客様が運用パフォーマンスの最適化、データを先見性に変換、その影響の最大化を実現できるようにします。 HPE で大胆な目標を達成しましょう。

NVIDIA 設計審査委員会が承認したソリューション:

Lenovo は、収益 690 億米ドルを誇る世界的なテクノロジ大手企業であり、「Fortune Global 500」で 196 位にランクインし、180 の市場で毎日数百万人の顧客にサービスを提供しています。すべての人にスマートなテクノロジを提供するという大胆なビジョンに焦点を当てて、NVIDIA との継続的なパートナーシップでは、Lenovo サーバーとアクセラレーテッド GPU を組み合わせています。 Lenovo Hybrid AI Advantage™ with NVIDIA は、Lenovo AI ライブラリと AI インフラ、デバイス、ソリューション、サービスのフルスタック ポートフォリオを活用した、より高速な AI デプロイにより、生産性とイノベーションを向上させます。

NVIDIA 設計審査委員会が承認したソリューション:

Supermicro は、アプリケーションに最適化されたトータル IT ソリューションのグローバル リーダーです。 カリフォルニア州サンノゼで創業および運営されている Supermicro は、エンタープライズ、クラウド、AI、5G 通信/エッジ IT インフラ向けの市場初のイノベーションを提供することに尽力しています。 当社は、サーバー、AI、ストレージ、IoT、スイッチ システム、ソフトウェア、サポート サービスを提供するトータル IT ソリューション プロバイダーです。Supermicro のマザーボード、電力、シャーシ設計の専門知識は、当社の開発と生産をさらに強化し、世界中のお客様のためにクラウドからエッジまで、次世代イノベーションを実現します。

NVIDIA 設計審査委員会が承認したソリューション: