NVIDIA NeMo

エンタープライズ規模で、AI エージェントのライフサイクル全体で構築、監視、最適化する包括的なソフトウェア スイートです。

概要

NVIDIA NeMo とは?

NVIDIA NeMo™ は、AI エージェントのライフサイクルを管理するモジュラー型ソフトウェア スイートです。 データ処理、モデルのファインチューニングと評価、強化学習、ポリシーの適用、システムの可観測性のためのマイクロサービスとツールキットを提供します。 NeMo は、企業が、GPU で高速化されたあらゆるインフラストラクチャで、エージェント型 AI システムを大規模に構築、監視、最適化するのを支援します。 既存の AI プラットフォームと統合し、クラウド、オンプレミス、ハイブリッドのデプロイをサポートすることで、企業は AI エージェントを継続的に最適化するデータ フライホイールを素早くに管理し、簡単に作成できます。

データ フライホイール構築のための新しい NVIDIA AI Blueprint

新しい AI ブループリントが利用可能になりました。これにより、開発者は自動データ フライホイールを構築し、より正確かつ効率的なモデルを用いて生成 AI アプリケーションおよびエージェント AI アプリケーションを継続的に強化できます。

利点

エージェント型 AI 向け NVIDIA NeMo の利点を探る

モジュラー AI エージェント ライフサイクル管理

エンタープライズ対応で相互運用可能なソフトウェア スイートで、データ キュレーション、カスタマイズ、評価からガードレール、観測性、最適化まで、AI エージェントのライフサイクルを管理します。

シームレスなデプロイとスケーリング

エンタープライズ データを使用して AI エージェントを改善するデータ フライホイールを簡単に構築し、ワークフローのさまざまな部分でシンプルな Helm チャートデプロイや API 呼び出しでフライホイール全体を強化します。

ROI の向上

大規模言語モデル (LLM)、視覚言語モデル (VLM)、ビデオ AI、スピーチ AI を迅速にトレーニング、カスタマイズ、大規模にデプロイし、ソリューションまでの時間を短縮し、ROI を向上させます。

高速化されたパフォーマンス

GPU で高速化された最適化、マルチノードのスケーリング、チューニングにより、コスト効率の高いトレーニング、デプロイ、継続的な改善を実現し、AI エージェントのパフォーマンスとスループットを最大化します。

より安全なエージェント AI

モデルの審査、プロンプトのガードレール設定、脆弱性の継続的なスキャンによって、より安全なエージェント AI システムを構築します。

本番環境対応

NVIDIA AI Enterprise の一部として、サポート、セキュリティ、API の安定性をもたらす、安全で最適化されたフルスタックのソリューションを本番環境にデプロイできます。

クラウドやデータセンターからエッジまで、あらゆる場所で AI エージェントを構築、監視、最適化します。

特長

AI エージェントのライフサイクル管理のためのツール

AI エージェントのライフサイクルは、本番環境アプリケーションにおける AI エージェントの開発と改善のためのエンドツーエンドのプロセスです。 NVIDIA NeMo はこのワークフローの各ステップを可能にするツールを提供しています。これにより、企業は強力で安全かつ継続的に学習するエージェントを構築できます。

構築
AI 対応データの準備

既存のマルチモーダル データセットを開発パイプライン向けに高品質な AI 対応フォーマットに変換し、合成データを生成して重要なデータ ギャップを解消します。
  • NeMo Curator
    マルチモーダル データのクリーニング、フィルタリングと準備。
  • NeMo Data Designer
    ドメイン固有のデータセットをゼロから作成します。
適切なモデルの選択

ユース ケースに適したモデルを選択または構築し、アカデミックなベンチマークで検証し、カスタム 評価を実行し、必要に応じてファインチューニングします。
  • NVIDIA Nemotron
    最先端のオープン マルチモーダル推論モデル。
  • NeMo Retriever
    RAG パイプライン向けの抽出、埋め込み、リランキングモデル。
  • NeMo Evaluator
    ベンチマーク、テスト、および評価モデルとエージェント。
AI エージェントの構築

カスタム モデルをスケーラブルなアプリケーションに変革し、エンタープライズ スタックやツールにシームレスに接続し、柔軟なオーケストレーションでワークフローを定義します。
  • NeMo Agent Toolkit
    AI エージェントの構築、プロファイリング、最適化のためのフレームワークに依存しないツールキット。
デプロイ
デプロイして最大のパフォーマンスを発揮し

、エージェントを本番環境向けに最適化し、高スループットで低レイテンシーの推論を実現することで、企業のニーズを満たすように拡張し、迅速かつ信頼性の高い応答を提供できるようにします。
  • NVIDIA NIM
    OpenAI 互換性のある API として公開される、最適化されたコンテナで AI モデルを実行します。
データに基づいて対応を固定し、ガードレールを適用します。

検索拡張生成(RAG)を使用して、信頼できる知識に基づいてエージェントの対応を固定し、安全性、コンプライアンス、コンテンツモデレーションのガードレールを適用します。
  • NeMo Retriever
    正確でプライバシーを保護する RAG パイプラインを構築します。
  • NeMo Guardrails
    は、AI との相互作用全体で安全性、コンプライアンス、制御を強化します。
最適化
監視とフィードバックの収集

エージェントがユーザーやその他のシステムと実世界で行うやりとりを追跡します。 パフォーマンスと精度を体系的に評価し、継続的に改善する機会を見つけます。
  • NeMo Agent Toolkit
    AI エージェントの構築、プロファイリング、最適化のためのフレームワークに依存しないツールキット。
  • NeMo Customizer
    ドメイン データとモデルのファインチューニングと調整。
  • NeMo Framework
    LLM とマルチモーダル モデルのトレーニングと調整のためのオープンソースのツールキット。
データフライホイールを使用して継続的に改善します。

モニタリングで収集されたフィードバックとデータを活用してデータ駆動型のフライホイールを作成し、エージェントを反復的に再訓練して最適化し、長期間にわたり効果的であり続けるようにします。
  • NeMo RL
    高度な強化学習技術を使用して、モデルを大規模にトレーニングし、調整します。
  • NeMo Evaluator
    ベンチマーク、テスト、および評価モデルとエージェント。
  • NeMo Customizer
    ドメイン データとモデルのファインチューニングと調整。

ユース ケース

NeMo の使用事例

NVIDIA NeMo がどのように業界のユース ケースをサポートし、AI 開発を後押ししているかをご覧ください。

AI エージェント

AI エージェントは、企業が顧客との会話の向上、高い解像度の達成、人間の担当者の生産性の向上を支援する、さまざまな分野で顧客サービスを変革しています。AI エージェントは、予測タスクの処理、推論と問題解決の処理、業界固有の用語の理解、データがどこにあるかにかかわらず、組織の知識ベースから関連情報を引き出すことができます。

エージェント型 AI の合成データ生成

専門化されたエージェント型 AI システムでは、実世界のソースから収集する際に時間がかかり、コストもかさむ大規模かつ高品質なデータセットが必要です。シミュレーションや生成 AI モデルを通じて作成された合成データは、プライバシー面の制約や品質の問題を抱えることなく、無制限のトレーニング シナリオを作成することで、このボトルネックを解消できます。 これにより、リーズニング LLM、マルチステップの意思決定者、マルチモーダル AI アシスタントの開発が迅速化します。

AI アシスタント

企業は、何百万人もの顧客や従業員の問い合わせに 24 時間体制で効率的に対応するために、AI バーチャル アシスタントを導入しています。LLMRAG音声および翻訳 AI 用のカスタマイズされた NVIDIA NIM マイクロサービスを搭載したこれらの AI チームメイトは、背景ノイズや音質の悪さ、多様な方言とアクセントが存在している場合でも、即座に正確な音声による応答を提供します。

情報検索

毎年、何兆もの PDF ファイルが生成されていますが、各ファイルは、テキスト、画像、チャート、表などさまざまな種類のコンテンツで埋め尽くされた複数のページで構成されている可能性があります。このデータという宝の山は、人間がそれを読み、理解できるスピードでしか活用できません。しかし、生成 AI と RAG を使用すると、この未だ活用されていないデータから、従業員の業務効率化とコスト削減に役立つビジネス上の洞察を発見することができます。

コンテンツの生成

生成 AI を使用すると、企業のその分野の専門知識や独自の IP に基づいた関連性が高くカスタマイズされた、正確なコンテンツを生成することができます。

ヒューマノイド ロボット

ヒューマノイド ロボットは、既存の人間中心の都市や産業の作業空間に素早く適応し、退屈で反復的な、または肉体的に要求の高いタスクに取り組むように設計されています。 その汎用性により、工場のフロアから医療施設まで、さまざまな場所で人間を支援し、自動化によって人手不足の緩和に貢献しています。

Apptronik

導入時の選択肢

NVIDIA NeMo を始める方法

本番環境における AI エージェントの構築、監視、最適化のためのツールと技術で AI エージェントのライフサイクルを管理します。

1

NVIDIA Nemotron™ など、NVIDIA に最適化された基盤モデルを試してみてください。

2

NVIDIA NeMo™ で AI エージェントを構築、監視、最適化します。

3

NVIDIA Blueprints を活用して AI ソリューションの構築をすぐに始めましょう。

導入事例

業界のリーダーが NeMo でイノベーションを推進する方法

採用した企業

全産業における主要な採用企業

関連情報

最新の NVIDIA NeMo リソース

LLM カスタマイズを始める

このコースでは、プロンプト エンジニアリング LLM の枠を超えて、特定のユース ケースに合わせてトレーニング済み LLM を効率的にカスタマイズするテクニックを学びます。 NVIDIA NIM マイクロサービス、NeMo Curator、NeMo Framework を使用して、組織向けに LLM の動作をカスタマイズするためのさまざまなパラメーター効率の高いファインチューニング方法を学びます。

LLM スキルを向上させましょう

NVIDIA の専門家が開発し、提供する基礎的なトピックから高度なトピックをカバーする包括的な LLM 学習コースをご利用ください。ご自分のペースで進められる柔軟なコースをお選びいただくか、インストラクター主導のワークショップに登録して、コンピテンシー証明書を取得していただくことができます。

NVIDIA による認定を取得する

NVIDIA の認定資格を取得して、生成 AI のスキルをアピールし、キャリアアップを目指しましょう。NVIDIA の新しいプロフェッショナル認定プログラムでは、大規模言語モデル (LLM) の熟練度とマルチモーダル ワークフロー スキルに焦点を当てた 2 つの開発者向け試験を実施しています。

週末でリーズニング機能を持つ LLM をトレーニングする

Llama Nemotron 事後学習データセットと NVIDIA NeMo からキュレーションされた少量のトレーニング データを使用して、推論モデルのトレーニングのためのシンプルで計算効率の高いレシピをご覧ください。

データ フライホイールを使用して AI エージェントを最適化

NVIDIA Data Flywheel Blueprint を使用して、本番環境で AI エージェントを最適化する方法を学びましょう。これは、NeMo と NIM マイクロサービスを活用した蒸留、ファインチューニング、評価の継続的なループです。

NeMo Agent オープンソース ツールキットで AI エージェントを構築する

NVIDIA NeMo Agent オープンソースの Python ツールキットを使用して、カスタム AI エージェントを構築、統合、最適化する方法を学びます。

次のステップ

さっそく始めませんか?

適切なツールとテクノロジを活用して、生成 AI モデルを開発から本番利用へと移行しましょう。

開発者の方向け

NVIDIA NeMo を使用して開発を始めるにあたって、必要なものすべて (最新のドキュメント、チュートリアル、技術ブログなど) をご覧ください。

お問い合わせ

試作から本番環境への移行については、NVIDIA の製品スペシャリストにご相談ください。NVIDIA AI Enterprise が提供するセキュリティの安心感、API の安定性、サポートを活用することができます。

Shell

Shell が NVIDIA NeMo でカスタム AI チャットボットをトレーニングし、運用を高度化

エネルギー業界のグローバル リーダーである Shell は、 NVIDIA NeMo™ を活用し、化学分野の専門知識を有するカスタム AI チャットボット開発に向けた取り組みを強化しています。 この革新的なソリューションは、検索プロセスの効率化、意思決定の改善、本番環境での研究開発の支援により、従業員の生産性を大幅に向上させる可能性を秘めています。

AI Sweden

LLM で業界アプリケーションを高速化

AI Sweden は、強力な 1,000 億個のパラメーター モデルへの容易なアクセスを提供することで、地域言語モデルの活用を促進しました。商用の言語モデルを開発するために歴史的記録をデジタル化しています。

Amazon

Amazon と NVIDIAが AI を活用して出品者がより効果的な商品リスティングができるように支援

Amazon は、NVIDIA の TensorRT™-LLM と GPU を利用することで、新しい AI 機能の推論スピードを 2 倍に引き上げ、これにより出品者は商品リスティングを短時間で作成、最適化できるようになりました。

Amdocs

NVIDIA と Amdocs がカスタムの生成 AI を世界中の通信業界にもたらす

Amdocs は、Microsoft Azure 上で NVIDIA AI ファウンドリ サービスを使用し、1.7 兆ドル規模の世界の通信業界向けにカスタム LLM を構築する予定です。

AT&T

AT&T が NVIDIA NeMo を活用してカスタマーケア AI エージェントの精度、効率性、パフォーマンスの向上を推進

AT&T は、世界有数の通信事業者の 1 つとして AI の力を活用してカスタマーケアの再構築に取り組んでいます。モデルドリフトの発生、計算需要の増加、リアルタイム データアクセスの必要性などの課題に直面した AT&T は、NVIDIA NeMo™ マイクロサービスを利用して、コスト、速度、コンプライアンスを最適化しながら性能を継続的に改善向上させるフィードバック駆動型 AI プラットフォームを構築しました。

AWS

私たちが、最大規模の Amazon Titan 基盤モデルのトレーニングを強化

Amazon は、NVIDIA NeMo フレームワーク、GPU、AWS EFA を活用して次世代の LLM をトレーニングし、最大規模の Amazon Titan 基盤モデルの顧客に、生成 AI 向けのより高速でアクセスしやすいソリューションを提供します。

Accenture

企業向けの生成 AI の採用を高速化

ServiceNow、私たち、Accenture は、エンタープライズ生成 AI 機能の開発と採用を高速化するために設計された初のプログラムである AI Lighthouse の開始を発表しました。

Azure

Azure 機械学習で NVIDIA AI Enterprise のパワーを活用する

Microsoft Azure 上の企業 IT 環境向けに最適化されたツール、ライブラリ、フレームワーク、サポートサービスをご利用いただけます。

Bria

Bria が NVIDIA NeMo と Picassoを活用して、企業向けの責任ある生成 AI を構築

テルアビブに本拠を置くスタートアップの Bria は、公正な帰属と著作権保護とともに、モデルの透明性を重視する生成 AI サービスを提供することで、ビジュアル生成 AI テクノロジを自社のエンタープライズ製品に統合する責任ある方法を求める企業を支援しています。

Cohesity

データの持つ巨大な力を解き放つ: NVIDIA マイクロサービスを活用することで Cohesity はエンタープライズ グレードのセキュアな生成 AI を活用

NVIDIA NIM と最適化されたモデルにより、Cohesity DataProtect の顧客は、データバックアップとアーカイブに生成 AI のインテリジェンスを追加できます。 これにより、Cohesity と NVIDIA は、Cohesity DataProtect のすべての顧客に生成 AI のパワーを提供することができます。NIM と NVIDIA 最適化モデルの力を活用することで、Cohesity DataProtect のお客様は、バックアップやアーカイブされたデータから洞察力を導き出すことで、これまでにないレベルの効率性、イノベーション、成長を実現します。

CrowdStrike

サイバーセキュリティ領域における AI の未来を形作る

CrowdStrike と NVIDIA は、アクセラレーテッド コンピューティングと生成 AI を活用して、セキュリティの脅威に効率的に対処するようにカスタマイズされた革新的な AI を活用したソリューションを顧客に提供しています。

Dell

Dell が NVIDIA とともに生成 AI の設計を検証

Dell Technologies と NVIDIA は、企業が生成 AI モデルをオンプレミスで迅速かつ安全に構築し、容易に使用することを目的とした取り組みを発表しました。

Deloitte

エンタープライズ ソフトウェア プラットフォーム全体で生成 AI の価値を引き出す

Deloitte は NVIDIA の AI テクノロジと専門知識を利用し、エンタープライズ ソフトウェア プラットフォーム向けの高性能な生成 AI ソリューションを構築し、大きなビジネス価値の創出を支援します。

Domino Data Lab

Domino が NVIDIA を活用した本番稼働向け生成 AI を提供

NVIDIA NeMo を利用することでデータ サイエンティストは、独自データと IP に基づくドメイン固有のユース ケース向けに Domino のプラットフォームで LLM をファインチューニングできます。ゼロから始める必要がありません。

Dropbox

Dropbox と NVIDIA、パーソナライズされた生成 AI を数百万の顧客に提供します

Dropbox は、NVIDIA AI Foundry を活用してカスタム モデルを構築し、「Dropbox Dash」ユニバーサル検索ツールと Dropbox AI による AI 主導の知識タスクの改善を図っています。

Google Cloud

AI 巨大企業による協業で生成 AI の魔法を開発

Next カンファレンスで、Google Cloud は NVIDIA H100 Tensor コア GPU を搭載した A3 インスタンスを発表しました。両社のエンジニアリング チームが協力し、NVIDIA NeMo を A3 インスタンスに導入し、トレーニングと推論を高速化しました。

Hugging Face

業界をリードする AI コミュニティがデータ キュレーション パイプラインを加速

AI 開発者向けの主要なオープン プラットフォームである Hugging Face は、NVIDIA と協力して、NeMo Curator を統合し、データ フィルタリングと重複排除ライブラリである DataTrove を高速化しています。 「NeMo Curator の GPU アクセラレーション機能に期待しています。DataTrove への実装が待ちきれません」と Hugging Face のプロダクト ディレクターである Jeff Boudier 氏は言っています。

KT

LLM による新しい顧客体験の創出

韓国の大手携帯電話会社が、NVIDIA DGX SuperPOD プラットフォームと NeMo フレームワークでトレーニングされた無数のパラメーターを有する LLM を構築し、スマート スピーカーやカスタマー コール センターを強化しています。

Lenovo

LLM を基盤とする生成 AI のための新しいリファレンス アーキテクチャ

世界中のパートナー企業や顧客が最も安全かつ効率的に AI を大規模に業界横断的に開発、トレーニング、デプロイすることでイノベーションを加速するソリューション。

Quantiphi

企業が AI 主導の取り組みを迅速に進めることを可能にする

Quantiphi は NVIDIA NeMo フレームワークを使用した基盤モデルのトレーニングおよびファインチューニングを専門としており、責任ある AI の原則を遵守しながら、NVIDIA AI Enterprise ソフトウェア プラットフォームを使用して大規模な展開の最適化を行っています。

SAP

SAP と NVIDIA が、グローバル産業を支えるエンタープライズ アプリケーションで生成 AI の採用を高速化

顧客は、NVIDIA AI Foundry サービスと NVIDIA NIM マイクロサービス でデプロイされたカスタマイズされた LLM を使用して、SAP のクラウド ソリューションでビジネス データを活用できます。

ServiceNow

企業 IT 全体で生成 AI を構築する

ServiceNow はその ServiceNow プラットフォームでカスタム LLM を開発してインテリジェントなワークフローの自動化を可能にし、企業の IT プロセス全体の生産性を上げています。

Perplexity

AI を活用した検索エンジンのモデル パフォーマンスを向上

NVIDIA NeMo を使用し、Perplexity は最先端のモデルを迅速にカスタマイズして検索結果の精度と品質を向上させ、低遅延および高スループットを実現する最適化を行い、より良いユーザー体験をもたらすことを目指しています。

VMware

VMware と NVIDIA が企業向けの生成 AI を開発

VMware Private AI Foundation と NVIDIA の組み合わせることで、企業はモデルをカスタマイズし、インテリジェントなチャットボット、アシスタント、検索、要約など、生成 AI アプリケーションを実行できます。

Weight & Biases

LLM パイプラインのデバッグ、最適化、監視

Weights & Biases は、生成 AI ユースケースや LLM で作業するチームがあらゆるプロンプトエンジニアリングの実験を追跡し、視覚化することを支援しています。これによりユーザーは LLM パイプラインをデバッグし、最適化することが可能となります。また LLM 向けの監視と観察の機能を提供しています。

Writer

スタートアップ企業が生成 AI の成功物語を NVIDIA NeMo で執筆する

多くの企業がマーケティング、トレーニング、サポートなど、企業のユースケースに合わせてカスタム コンテンツを作成していますが、その作業を支援する LLM の構築に Writer は NVIDIA NeMo を使用しています。

Arize

Arize、自己改善する AI Data Flywheel を強化

Arize の LLM エンジニアリングと観測性プラットフォームは、私たち NeMo マイクロサービスを統合して AI データ フライホイールを強化し、実世界のフィードバックを通じて継続的なモデル改良を実現します。NeMo Customizer、Evaluator、Guardrails を活用して、Arize はエージェント システムが高性能で安全であり、進化する企業ニーズに合わせて動作するようにします。 このコラボレーションは、時間の経過とともに学習し進化する適応型 AI の開発をサポートします。

DataRobot

DataRobot 上の NeMo を使用した、エンタープライズ対応で信頼性の高い AI エージェント

DataRobot Enterprise AI Suite に NVIDIA NeMo を組み込むことで、企業はエージェント システムが安全で、準拠し、企業固有のデータに根ざしていることを確認できます。この統合により、組織標準を遵守しながら、正確でコンテキスト認識の応答を提供する AI エージェントの開発が簡単になります。

Datastax

DataStax と NVIDIA、データと AI プラットフォームを構築

この 1 年間、DataStax は NVIDIA と提携し、NVIDIA NeMo マイクロサービスを採用し、データベースと AI 製品全体で生成 AI、検索拡張生成、ハイブリッド検索を強化しています。スループットが 19 倍のパフォーマンス向上、コストの大幅な削減、遅延の改善など、印象的な結果となっています。

Galileo

Galileo と NVIDIA NeMo: 本番環境および本番利用におけるエージェント型 AI のリスク回避

Galileo は、NVIDIA NeMo マイクロサービスを統合し、エージェントのパフォーマンス、信頼性、そして信頼を強化する AI データ フライホイールを構築します。NeMo は、NeMo Customizer による継続的なドメイン固有のファインチューニング、NeMo Evaluator による高度な評価、NeMo Guardrails でのユーザーとのやりとりの保護を実現し、AI チームが実環境で学習し、継続的に改善するエージェント型 AI システムを構築、評価、監視できるようにします。

生成 AI モデルの構築とデプロイ

企業は、イノベーションの方法、業務の最適化、競争優位性の構築に変革をもたらすために、生成 AI に着目しています。NeMo は、データのキュレーション、マルチモーダル モデルのトレーニング、カスタマイズ、評価、推論を大規模に実行できるエンドツーエンドのプラットフォームです。このプラットフォームはテキスト、画像、ビデオ、音声の生成をサポートしています。

Llama 3.1 により合成データ生成の扉を開く

Meta Llama 3.1 405B モデルを使用して、特定のドメインに特化した合成データを生成する方法を学び、Nemotron-4 340B Reward モデルを使用してこのデータを評価し、NVIDIA NeMo を通じて人の好みとの整合性を確保する方法について学びます。

RAG で世界最高クラスのカスタマー サービス向け AI バーチャル アシスタントを構築

企業がカスタマー サービスに AI バーチャル アシスタントを使用する方法について説明します。NVIDIA AI Blueprint は、既存のコンタクト センター ソリューションの運用効率を向上させ、新しいカスタマー サービス中心のシステムを構築するために使用できます。