NVIDIA ストーリー

NVIDIA の AI ファクトリーが大規模なエンタープライズイノベーションを推進

目的

多くの組織と同様に、NVIDIA の従業員も生成 AI を迅速に受け入れ、チャットボットとデジタルエージェントを構築・活用し、生産性の向上、タスクの自動化、イノベーションの迅速化を実現しました。しかし、シャドウ AI を緩和しながら企業全体にデプロイを達成するには、これらの初期のパイロットプロジェクトを、統合された安全かつ高性能なインフラに移行する必要がありました。そのインフラは、成長し続ける AI を活用したワークフローの多様なポートフォリオをサポートできる、いわゆる AI ファクトリーです。統合された AI ファクトリーに数百もの AI ソリューションをデプロイする取り組みとして、IT チームが企業データに接続された高性能な AI インフラをデプロイし、ビジネス運営を変革する方法を紹介しています。

ユースケース

アクセラレーテッドコンピューティングのツールと手法

製品

NVIDIA Data Center / Cloud
NVIDIA AI Enterprise
NVIDIA NIM

要点

ソフトウェアエンジニアリングとハードウェア設計のエージェントは、NVIDIA エンジニアリングチームのために 30 年以上に相当する仕事を 1 年間で果たしました。

サプライチェーンのエージェントは、日々の業務計画時間を 95% 以上短縮し、従業員は他の重要な業務に時間を割くことが可能になりました。

数百種類の AI ワークフローが、NVIDIA の統合された AI ファクトリーにオンボードされつつあります。

AI エージェントで企業影響力を加速する

AI エージェントは、計画、推論、学習、行動を起こすインテリジェントな共同作業者として機能し、ビジネス生産性を再定義しています。これらのデジタルコワーカーは、個別のタスクを自動化するのではなく、チームがビジネスプロセスをデータ主導型、AI を活用したワークフローに変えるのを支援します。このビジョンを実現するために、私たちは大規模な AI エージェントを開発、展開、管理するための堅牢で信頼性の高いプラットフォームを構築する AI ファクトリーを構築しました。

当社の AI ファクトリーは、AI エージェントの開発と運用のあらゆる段階を高速化するために構築されました。これらのデジタルアシスタントは、幅広い複雑なタスクを処理するように設計されており、GPU アーキテクチャを開発するエンジニアを支援するのと同様に、NVIDIA 製品のプロモーションを行う営業・マーケティングチームをシームレスにサポートします。

NVIDIA エンタープライズリファレンスアーキテクチャと NVIDIA エンタープライズ AI ファクトリーの検証済み設計を基盤とする AI ファクトリーのインフラは、AI エージェントの開発とスケーリングに一貫性のある高性能基盤を提供します。孤立した AI 実験を、イノベーションと成長のためのスケーラブルで信頼性の高いエンジンに変えることで、ビジネスに大きな影響をもたらします。主な利点として、ライフサイクルのあらゆる段階で AI ワークロードにおけるデプロイまでの時間の短縮、俊敏性の向上、効率性の向上が挙げられます。

スケーラブルな AI ファクトリーの構築

NVIDIA の AI ファクトリーは、NVIDIA Blackwell アーキテクチャを採用した NVIDIA-Certified Systems™ で動作します。これには、NVIDIA Spectrum-X™ ネットワークと NVIDIA-Certified Storage を搭載した NVIDIA HGX™ B200 システムと NVIDIA RTX PRO™ サーバーが含まれます。また、包括的なソフトウェアスタックも活用しており、GPU の管理と最適化のための NVIDIA Run:ai や、生成型およびエージェント型 AI アプリケーションの構築、開発、デプロイのための NVIDIA AI Enterprise が含まれています。

継続的な最適化への取り組みの一環として、NVIDIA の IT 部門は、GenAI-Perf を使用してデプロイされた LLM のスループットと遅延を測定し、改善します。その過程で、チームは、NVIDIA NIM™ デプロイとシステムプロファイリング向けなど、標準化されたエンドツーエンドのベンチマークフレームワークを開発しました。その結果、信頼性の高いパフォーマンスベースラインが確立され、オンプレミス LLM 向けのスケーラブルなデプロイパターンが明らかになり、運用規律が強化され、部門横断的な学習が可能になりました。

エージェント型 AI 開発と最適化のために、NVIDIA の AI ファクトリーは、NVIDIA Nemotron™ 推論モデル、NIM と NeMo™ マイクロサービスなど、NVIDIA AI Enterprise ソフトウェアを使用しています。さらに、効率的な GPU 管理のために、NVIDIA GPU Operator と Network Operator が含まれています。

このデータ層は、NVIDIA の社内ナレッジベース全体に接続され、11 億件以上のドキュメントを特徴としており、RAG (検索拡張生成) 向けの NVIDIA AI Blueprint のカスタマイズされたバージョンを通じて、AI エージェントによって使用されています。

クリックして画像を拡大

NVIDIA の全社的なデプロイは、AI ファクトリーが単なる漸進的な利益以上のものをもたらすことを示しています。これらは、エージェント型 AI を全社に展開するにあたって、コラボレーション、スピード、イノベーションの新しい標準を確立します。内部使用向けの AI ファクトリーを構築することで、AI ソリューションの信頼性と影響力を検証し、その知見を他の組織と共有しました。

このデプロイを通じて、NVIDIA の IT 部門は大規模な AI ファクトリーの構築と管理に必要な貴重なインサイトを得ることができました。チームは、検証済みのリファレンスアーキテクチャ、データセンターの準備のための早期計画、ハードウェアとソフトウェアのリリース間の緊密な連携の重要性を強調しました。一貫性のあるプラットフォームを使用すると、運用の効率化とセキュリティの維持が可能になり、実験的なセットアップとして始まったものが、安全なエンタープライズグレードの AI イノベーションを実現する再現性の高いモデルへと進化しました。

AI ファクトリーがエージェント型 AI で具体的な価値を提供する方法

NVIDIA は、さまざまなチームが構築した AI エージェントを、パフォーマンスが最適化され、同じセキュリティ、コンプライアンス、プライバシー保護策によって管理される1つのプラットフォームに統合する、体系的かつ段階的なアプローチを追求しています。私たちのチームは、ハードウェア設計、ソフトウェアエンジニアリング、サプライチェーン最適化などを支える重要なエージェントワークフローのベンチマークと移行に取り組んでいます。

この移行を継続する中で、私たちはすでに、AI エージェントイニシアチブから大きな企業価値を実現しつつあります。 AI ファクトリーへの早期移行には、いくつかの利点があります。

ハードウェア設計の高速化: AI エージェントは、16 年分以上に相当するハードウェアエンジニアリング作業を 1 年で完了しました。これらのアシスタントは、GPU 設計全体にわたる 100 以上のワークフローのサポート、回帰データのトラブルシューティング、検証計画のレビュー、100 万件以上のエンジニアリングクエリへの回答を支えました。
合理化されたソフトウェアエンジニアリング: ソフトウェアエンジニアリング向けの AI エージェントは、GPU および AI 最適化ライブラリ、ハードウェア設計とテストツール、NVIDIA DGX™ Cloud ソフトウェアにわたり、18 年分以上に相当する開発作業をわずか 1 年余りで完了しました。この迅速な提供により、NVIDIA は NVIDIA のソフトウェアを信頼し、独自の AI アプリケーションの構築とデプロイにあたる数十万人の開発者向けに、より迅速に新機能リリースをできるようになります。
最適化されたサプライチェーン運用: cuOpt™ を搭載した NVIDIA のサプライチェーンの AI エージェントは、複雑な計画を自動化し、不足を解決し、製品割り当てを高速化します。日次顧客割当計画にかかる時間は 3 時間からわずか 10 分に、週次在庫計画にかかる時間は 15 時間から 1 時間に短縮され、より多くの GPU をパートナーと顧客に迅速に届けることに貢献しました。