AI インフラストラクチャ向けのユニバーサル システム
NVIDIA DGX™ A100 はあらゆる AI ワークフローのためのユニバーサル システムであり、前例のない計算処理密度、パフォーマンス、柔軟性を提供する世界初の 5 ペタフロップス AI システムです。NVIDIA DGX A100 は世界最先端のアクセラレータ、NVIDIA A100 Tensor コア GPU を備えています。企業はトレーニング、推論、分析ワークロードを、配備が容易でNVIDIA の AI 専門家の支援も受けられる単一の AI インフラストラクチャに統合できます。
NVIDIA DGX A100 は、分析からトレーニング、推論に至るまで、あらゆる AI インフラストラクチャのためのユニバーサル システムです。6U のフォームファクタに 5 ペタフロップスの AI パフォーマンスを詰め込み、従来のインフラストラクチャのサイロを、すべての AI ワークフローに対応する単一のプラットフォームに置き換えることで、計算処理密度の新しい水準を確立します。
NVIDIA DGXperts は、お客様による DGX 投資への価値を最大化できるよう過去 10 年間にわたり豊富な経験を積んできた、14,000 人を超える AI に精通した専門家から成る世界的なチームです。
NVIDIA DGX A100 は、NVIDIA A100 Tensor コア GPU を搭載した世界初のシステムです。8 つの A100 GPU を統合したこのシステムは、これまでにないアクセラレーションを提供し、NVIDIA CUDA-X™ソフトウェアとエンドツーエンドのNVIDIA データ センターソリューション スタック用に完全に最適化されています。
NVIDIA DGX A100 は、ピーク時の双方向帯域幅が 450 ギガバイト/秒 (GB/s) の Mellanox ネットワーキングを内蔵しています。これは、スケーラブル AI インフラストラクチャのリファレンス アーキテクチャとなるNVIDIA DGX SuperPOD™ などの大規模 AI クラスターの基本構成要素に DGX A100 を据えるための数ある機能の中の 1 つです。
NVIDIA AI Starter Kit は、世界最高の AI プラットフォームから最適化されたソフトウェアとツール、コンサルティング サービスに至るまで、チームに必要なすべてを提供します。そのため、AI 導入戦略をすぐに始めることができます。AI プラットフォームの構築で時間とお金を無駄にしません。プラグインと電源投入を 1 日で、定義済みのユースケースを 1 週間で実現し、すぐにモデルの生産を開始できます。
NVIDIA DGX A100 システムの詳細を見る
PageRank
分析が高速化され、より深い洞察で AI 開発を加速
3000x CPU Servers vs. 4x DGX A100. Published Common Crawl Data Set: 128B Edges, 2.6TB Graph.
NLP: BERT-Large
より短いトレーニング時間で、最も高度な AI モデルが実現
BERT Pre-Training Throughput using PyTorch including (2/3)Phase 1 and (1/3)Phase 2. Phase 1 Seq Len = 128, Phase 2 Seq Len = 512. V100: DGX-1 with 8x V100 using FP32 precision. DGX A100: DGX A100 with 8x A100 using TF32 precision.
Peak Compute
推論が高速化され、最高のシステムを利用して ROI を向上 活用法
CPU Server: 2x Intel Platinum 8280 using INT8. DGX A100: DGX A100 with 8x A100 using INT8 with Structural Sparsity.
1 8 つの NVIDIA A100 GPU、合計 GPU メモリ 320 GB GPU あたり 12 の NVLink GPU から GPU への帯域幅: 600 GB/秒
2 6 基の NVIDIA NVSWITCH 双方向の帯域幅: 4.8 TB/秒前世代と比較して 2 倍
3 9 Mellanox ConnectX-6 200/Gb ネットワーク インターフェイス ピーク時の双方向の帯域幅: 450 GB/秒
4 デュアル 64 コア AMD CPU と 1 TB システム メモリ 3.2 倍のコアで最も集中的な AI ジョブを強化
5 15 TB の Gen4 NVME SSD ピーク時の帯域幅: 25 GB/秒Gen3 NVME SSD より 2 倍高速
新しい NVIDIA DGX A100 の詳細をご覧ください。
NVIDIA A100 Tensor コア GPU による前例のない高速化をもって、世界で最も困難な計算に AI、データ分析、HPC (ハイ パフォーマンス コンピューティング) で挑むことができます。第 3 世代の NVIDIA Tensor コアにより性能を大幅に向上できるようになり、A100 GPU を効率的に数千までスケール アップできます。また、マルチインスタンス GPU を使用すれば、あらゆるサイズのワークフローを加速するために 7 つの小さな専用インスタンスとして割り当てることができます。
MIG を利用することで、DGX A100 の 8 つの A100 Gpu を最大 56 個の GPU インスタンスとして構成し、それぞれが独自の高帯域幅メモリ、キャッシュ、コンピューティング コアで完全分離できます。これにより管理者は、複数のワークフローに対してサービス品質 (QoS) が保証された GPU のサイズを適切に設定することができます。
DGX A100 の第 3 世代の NVIDIA® NVLink™ は、GPU から GPU への直接帯域幅を 600 ギガバイト/秒 (GB/s) まで倍増します。これは PCIe Gen4 のほぼ 10 倍に相当します。DGX A100 には、前世代と比較して 2 倍の速度を可能にする次世代の NVIDIA NVSwitch™ も搭載されています。
DGX A100 には最新型の Mellanox ConnectX-6 VPI HDR InfiniBand /イーサネット アダプターが搭載されており、それぞれが 200 ギガビット/秒 (GB/s) で動作し、大規模 AI ワークフロー用の高速ファブリックを形成します。
DGX A100 には、AI チューニングされた基本オペレーティング システム、必要となるすべてのシステム ソフトウェア、GPU 対応アプリケーション、トレーニング済みモデル、NGC™ の各種機能など、テスト済みで最適化された DGX ソフトウェア スタックが統合されています。
DGX A100 は、あらゆる主要なハードウェアとソフトウェア コンポーネントを保護するための自動暗号化ドライブ、署名付きソフトウェア コンテナー、安全な管理と監視といったマルチレイヤー アプローチを採用することで、AI 導入において最も信頼性の高いセキュリティ体制を実現します。
NVIDIA DGX システムの企業レベルのサポートをご覧ください。
リーダーシップクラスの AI インフラストラクチャ
個人情報の保護