NVIDIA AI プラットフォームのパワーと GKE の柔軟性と拡張性を組み合わせて、生成 AI のトレーニングと推論、その他の計算負荷の高いワークロードを効率的に管理および拡張します。GKE のオンデマンド プロビジョニング、自動スケーリング、NVIDIA マルチインスタンス GPU (MIG) 対応、GPU タイム シェアリング機能により、最適なリソース利用を確保します。これにより、要求の厳しい AI ワークロードに必要な演算能力を提供しながら、運用コストを最小化します。

NVIDIA のアクセラレーテッド コンピューティングのパワーと、本番環境で AI モデルを構築、デプロイ、および拡張するための完全に管理された統合型 MLOps プラットフォームである Google Cloud の Vertex AI を組み合わせることができます。Vertex AI Training、Prediction、Pipelines、Notebooks 内で最新の NVIDIA GPU と Triton™ Inference Server などの NVIDIA AI ソフトウェアを活用することで、インフラ管理の複雑さを伴わずに、生成 AI 開発とデプロイを高速化します。

NVIDIA RAPIDS™ Accelerator for Spark を活用することで、Google Cloud の完全に管理されたデータ処理サービスである Dataproc 上で、コードを変更することなく Apache Spark や Dask ワークロードを高速化できます。これにより、データ処理、抽出、変換、ロード (ETL) 操作、機械学習パイプラインが高速化され、インフラ コストが大幅に削減されます。さらに RAPIDS Accelerator for Spark を使用することで、ユーザーはクラスターをプロビジョニングすることなく Dataproc Serverless 内のバッチ ワークロードを高速化することもできます。

ストリーミング分析やバッチ分析の両方をはじめとする、さまざまなデータ処理パターン実行のためのマネージド サービス「Google Cloud Dataflow」で、NVIDIA AI を利用して機械学習推論を高速化します。ユーザーは、NVIDIA TensorRT と Apache Beam SDK の統合を使用して AI モデルの推論パフォーマンスを最適化し、Dataflow でサポートされている NVIDIA GPU を使用してデータ処理パイプライン内の複雑な推論シナリオを高速化できます。

Google Cloud のインフラ上にコンテナーをデプロイすることができる、完全に管理されたサーバーレス コンピューティング プラットフォームである Google Cloud Run で NVIDIA NIM を利用して、生成 AI のデプロイをさらに加速できます。Cloud Run で NVIDIA GPU がサポートされることで、ユーザーはインフラ管理を抽象化するサーバーレス環境で、NIM を活用してパフォーマンスを最適化し、生成 AI モデルの本番環境へのデプロイを高速化することができます。

Dynamic Workload Scheduler を使用すれば、AI トレーニング、ファインチューニング、実験などの短期間のワークロードのために、Google Cloud 上から NVIDIA GPU リソースに簡単にアクセスすることができます。柔軟なスケジューリングとアトミック プロビジョニングにより、ユーザーは、GKE、Vertex AI、Batch などのサービス内で必要なコンピューティング リソースにアクセスしながら、リソース利用率を高め、AI ワークロードの実行に伴うコストを最適化できます。

NVIDIA Blackwell プラットフォームが Google Distributed Cloud に導入されたことで、企業は、Google Gemini モデルを含む高度なエージェント型 AI を、オンプレミスのデータセンターに直接、安全にデプロイできるようになりました。この統合により、組織は、機密性の高い規制されたワークロードのために画期的な AI パフォーマンスと拡張性を活用しながら、データのプライバシー、主権、およびコンプライアンスを確保することができます。Google Distributed Cloud と NVIDIA Blackwell の強みを組み合わせることで、企業は次世代 AI でイノベーションを加速できると同時に、データと運用の完全な制御を維持できます。

Google Cloud は、フロンティア AI モデル向けの高性能、低遅延のプラットフォームである NVIDIA Dynamo を活用し、分散型推論のレシピを開発しました。このレシピにより、Google Kubernetes Engine (GKE)、vLLM 推論エンジン、NVIDIA H200 GPU を搭載した A3 Ultra GPU 高速インスタンスなど、Google Cloud の AI Hypercomputer に NVIDIA Dynamo を簡単にデプロイすることができます。

Nemotron 3 Nano など、NVIDIA Nemotron のオープン モデル ファミリは、NVIDIA NIM マイクロサービスとして Google Vertex AI Model Garden で利用可能になります。この統合により、開発者や企業は、NVIDIA の主要なオープンウェイト モデルを活用できるようになります。Vertex AI の管理されたデプロイにより、組織は、パフォーマンス、コスト、コンプライアンスの管理を維持しながら、Nemotron モデルを搭載したカスタム AI エージェントを速やかに開発およびデプロイできます。

NVIDIA Run:ai Model Streamer は、Google Cloud Storage をネイティブにサポートしており、Google Kubernetes Engine (GKE) 上の vLLM 推論ワークロードを強化します。この連携により、LLM を「コールド」ストレージからメモリへ読み込む速度が約 5 倍向上し、AI 推論が高速化されます。141 GB の Meta Llama 3.3-70B モデルの例もこれに含まれます。

Cluster Director は、大規模な AI および HPC クラスターのデプロイと管理を最適化するように設計された Google Cloud サービスであり、NVIDIA によって高速化されています。NVIDIA GB200 と GB300 NVL72 システムを搭載した Google Cloud の A4X と A4X Max VM など、大規模 AI システムへの完全対応もこれに含まれます。Google Cloud は、最近 NVIDIA が買収した SchedMD の Slinky を利用し、GKE で Slurm を対象とした Cluster Director への対応のプレビューを発表しました。