仮想 GPU により極めて計算負荷の高いサーバー ワークロードにパワーを
NVIDIA Virtual Compute Server (vCS) は、NVIDIA A100 Tensor コア GPU¹ を含む、最新の NVIDIA データ センター GPU でデータ センターのサーバー仮想化を加速します。人工知能 (AI)、ディープラーニング、データサイエンス など、非常に多くの計算リソースを必要とするワークロードを仮想マシン (VM) で実行可能となります。
GPU 共有 (分割使用) は、NVIDIA vGPU テクノロジでのみ可能です。複数の仮想マシンで GPU を共有し、GPU アクセラレーションを必要とする軽めのワークロードの使用率を最大化します。
GPU 集約により、VM から複数の GPU にアクセスできます。これはよく計算負荷の高いワークロードに必要となります。vCSは、マルチ vGPU と P2P コンピューティングの両方に対応しています。マルチ vGPU では、GPU は直接接続されません。P2P では、 NVLink を介して帯域幅を広げます。
vCS では、アプリレベル、ゲストレベル、ホストレベルでの監視をサポートしています。さらに、予防的管理機能では、vGPU 管理 SDK を通じて、ライブ マイグレーションの実行、中断と再開、およびユーザーの体験に影響を与える消費傾向を明らかにするしきい値を作成することができます。
NVIDIA GPU Cloud (NGC) は、GPU 最適化ソフトウェア用のハブであり、 ディープラーニング、機械学習、HPC のワークフローを簡素化します。また、NVIDIA vCS で仮想化環境をサポートするようになりました。
NVIDIA® NVLink™は、高速な GPU-GPU の直接相互接続であり、帯域幅を広くし、リンク数を増やし、マルチ GPU システム設定のスケーラビリティを向上させます。現在は、NVIDIA 仮想 GPU (vGPU) テクノロジにより、仮想的にサポートされています。
エラー修正コード (ECC) とページ リタイアメントにより、データ破壊に敏感なアプリケーションの処理により高い信頼性をもたらします。GPU が非常に大きなデータセットを処理し、長期間にわたってアプリケーションを実行する大規模クラスターコンピューティング環境では、これらは特に重要です。
マルチインスタンス GPU (MIG) は、データ センターの機能を拡張する革命的なテクノロジです。各 NVIDIA A100 Tensor コア GPU を 最大 7 つのインスタンスに分割、ハードウェアレベルで完全に分離および保護、それぞれに高帯域幅のメモリ、キャッシュ、コンピューティング コアを与えることができます。vCS ソフトウェアを利用することで、VM を各 MIG インスタンスで実行できます。ハイパーバイザーをベースとしたサーバー仮想化による管理、監視、運用上の利点が組織に与えられます。
GPUDirect® RDMA (リモート ダイレクト メモリ アクセス) を利用すると、ネットワーク デバイスが GPU メモリに直接アクセスすることを可能にします。CPU ホストメモリをバイバスし、GPU と GPU の間の通信レイテンシが減少させ、CPU の負荷がオフロードされます。
GRID vPC/vApps と Quadro vDWS は、ナレッジ ワーカーおよびクリエイティブ系または技術系の専門家向けに設計された、仮想グラフィックス用のクライアント コンピューティング製品です。vCS は、AI、ディープラーニング、HPC など、計算負荷の高いサーバー ワークロードに適しています。
いいえ、vCS のライセンス付与は、GRID vPC/vApps および Quadro vDWS とは異なります。GRID vPC/vApps および Quadro vDWS の場合、同時接続ユーザー (CCU) 単位で、永久ライセンスまたは年間サブスクリプションとしてライセンスが付与されます。vCS は、サーバー コンピューティング ワークロードに適しているため、ライセンスはユーザーではなく、物理 GPU に関連付けられています。したがって、vCS の場合は、物理GPU 単位の年間サブスクリプションとしてライセンスが付与されます。ライセンスの詳細については、「NVIDIA Virtual GPU Packaging, Pricing, and Licensing Guide」を参照してください。
上記の推奨 GPU の表を参照してください。vCS 向け推奨 GPUとして NVIDIA V100S、V100、T4、RTX 8000 に加えて、NVIDIA P100、P40、P6 もサポートされています。NVIDIA A 100 Tensor コア GPUも間もなくサポートされます。
全 vGPU 製品についての認定サーバーの全リストを確認するには、vGPU 認定サーバーのページを参照してください。
はい、 vCS では、VM 内でコンテナーを実行できます。NVIDIA NGC では、ディープラーニング、機械学習、HPC に適した GPU 対応コンテナーの総合カタログを提供しています。vCS を使用し、コンテナーなしで、ワークロードを VM 内で直接実行することもできます。
製品リリース ノートと対応サードパーティ製ソフトウェア製品をご覧ください。.