NVIDIA DGX A100

AI インフラストラクチャ向けのユニバーサル システム

NVIDIA A100 で構築された世界初の AI システム

NVIDIA DGX™ A100 はあらゆる AI ワークフローのためのユニバーサル システムであり、前例のない計算処理密度、パフォーマンス、柔軟性を提供する世界初の 5 ペタフロップス AI システムです。NVIDIA DGX A100 は世界最先端のアクセラレータ、NVIDIA A100 Tensor コア GPU を備えています。企業はトレーニング、推論、分析ワークロードを、配備が容易でNVIDIA の AI 専門家の支援も受けられる単一の AI インフラストラクチャに統合できます。

ビデオを見る
データシートをダウンロード
インフォグラフィックをダウンロード

AI データ センターに欠かせないビルディング ブロック

The Universal System for Every AI Workload

すべての AI ワークフローのためのユニバーサル システム

NVIDIA DGX A100 は、分析からトレーニング、推論に至るまで、あらゆる AI インフラストラクチャのためのユニバーサル システムです。6U のフォームファクタに 5 ペタフロップスの AI パフォーマンスを詰め込み、従来のインフラストラクチャのサイロを、すべての AI ワークフローに対応する単一のプラットフォームに置き換えることで、計算処理密度の新しい水準を確立します。

DGXperts: Integrated Access to AI Expertise

DGXperts: AI の専門知識への統合的アクセス

NVIDIA DGXperts は、お客様による DGX 投資への価値を最大化できるよう過去 10 年間にわたり豊富な経験を積んできた、16,000 人を超える AI に精通した専門家から成る世界的なチームです。

Fastest Time To Solution

最速で解決

NVIDIA DGX A100 は、NVIDIA A100 Tensor コア GPU を搭載した世界初のシステムです。​8 基の A100 GPU と最大 640GB の GPU メモリの統合。、これまでにないアクセラレーションを提供し、NVIDIA CUDA-X™ソフトウェアとエンドツーエンドのNVIDIA データ センターソリューション スタック用に完全に最適化されています。 

data-center-dgx-a100-benefits-icon_unmatched-data

比類ないデータ センターの拡張性

NVIDIA DGX A100 は、ピーク時の双方向帯域幅が 500 ギガバイト/秒 (GB/s) の Mellanox ネットワーキングを内蔵しています。これは、スケーラブル AI インフラストラクチャのリファレンス アーキテクチャとなるNVIDIA DGX SuperPOD™ などの大規模 AI クラスターの基本構成要素に DGX A100 を据えるための数ある機能の中の 1 つです。

より簡単で迅速に AI を導入するための方法

より簡単で迅速に AI を導入するための方法

NVIDIA AI Starter Kit は、世界最高の AI プラットフォームから最適化されたソフトウェアとツール、コンサルティング サービスに至るまで、チームに必要なすべてを提供します。そのため、AI 導入戦略をすぐに始めることができます。AI プラットフォームの構築で時間とお金を無駄にしません。プラグインと電源投入を 1 日で、定義済みのユースケースを 1 週間で実現し、すぐにモデルの生産を開始できます。

詳細を見る 
今すぐ注文する 
  • 開発者向け
  • IT 管理者向け
  • ビジネスリーダー向け
Solve Bigger, More Complex Data Science Problems Faster

より大きくさらに複雑なデータ サイエンスの問題を短時間で解決する

メリット

  • すぐに実行できる最適化された AI ソフトウェアで、面倒なセット アップやテストが不要になります。
  • 高速反復処理を可能にする比類ないパフォーマンスを備えた、優れたモデルをご確認ください。
  • - システム統合とソフトウェア エンジニアリングにおける時間の浪費を回避します。
Deploy Infrastructure and Operationalize AI at Scale

インフラストラクチャを導入し、大規模に AI を運用可能に

メリット

  • すべての AI ワークフローに対応する 1 つのシステムで、簡素化されたインフラストラクチャ設計とキャパシティ プランニングを体験できます。
  • 最小のフットプリントで最高の計算処理密度とパフォーマンスを実現します。
  • 容器からチップに至るまで、すべてのレイヤーにおいて組み込まれたセキュリティを活用してください。

 

Shorten Time to Insights and Accelerate ROI of AI

洞察に要する時間を短縮して AI の ROI を加速

メリット

  • データ サイエンティストの生産性を向上させ、付加価値のない労力を排除します。
  • コンセプトから生産段階まで、開発サイクルを加速します。
  • DGXperts がアドバイスし、障害となる問題を解決します。

    •  

NVIDIA DGX A100 システムの詳細を見る

問い合わせる

一変させるパフォーマンス

トレーニング

DLRM トレーニング

​最大規模のモデルで AI トレーニングのスループットが最大 3 倍に向上

DLRM on HugeCTR framework, precision = FP16 | 1x ​DGX A100 640GB batch size = 48 | 2x DGX A100 320GB batch size = 32 | 1x DGX-2 (16x V100 32GB) batch size = 32. Speedups Normalized to Number of GPUs.

推論

RNN-T 推論: 単一のストリーム

AI 推論のスループットが最大
1.25 倍に向上  

MLPerf 0.7 RNN-T measured with (1/7) MIG slices. Framework: TensorRT 7.2, dataset = LibriSpeech, precision = FP16. ​

データ分析

ビッグ データ分析のベンチマーク

​CPU より最大 83 倍のスループット、DGX A100 320GB より最大 2 倍のスループット

Big data analytics benchmark |  30 analytical retail queries, ETL, ML, NLP on 10TB dataset | CPU: 19x Intel Xeon Gold 6252 2.10 GHz, Hadoop | 16x DGX-1 (8x V100 32GB each), RAPIDS/Dask | 12x DGX A100 320GB and 6x DGX A100 640GB, RAPIDS/Dask/BlazingSQL​. Speedups Normalized to Number of GPUs

DGX A100 の高性能コンポーネントをご覧ください。

1 8 つの NVIDIA A100 GPU、合計 GPU メモリ 640 GB
GPU あたり 12 の NVLink GPU から GPU への帯域幅: 600 GB/秒

2 6 基の NVIDIA NVSWITCH
双方向の帯域幅: 4.8 TB/秒前世代と比較して 2 倍

3 10 Mellanox ConnectX-6 200/Gb ネットワーク インターフェイス
ピーク時の双方向の帯域幅: 500 GB/秒

4 デュアル 64 コア AMD CPU と 2 TB システム メモリ
3.2 倍のコアで最も集中的な AI ジョブを強化

5 30 TB の Gen4 NVME SSD
ピーク時の帯域幅: 50 GB/秒Gen3 NVME SSD より 2 倍高速

Explore the Powerful Components of DGX A100

新しい NVIDIA DGX A100 の詳細をご覧ください。

ホワイトペーパーを見る

NVIDIA DGX A100 のテクノロジ

  • A100 GPU
  • マルチインスタンス GPU
  • NVLink と NVSwitch
  • Mellanox ConnectX-6
  • 最適化されたソフトウェア スタック
  • セキュリティ

NVIDIA A100 Tensor コア GPU

NVIDIA A100 Tensor コア GPU による前例のない高速化をもって、世界で最も困難な計算に AI、データ分析、HPC (ハイ パフォーマンス コンピューティング) で挑むことができます。第 3 世代の NVIDIA Tensor コアにより性能を大幅に向上できるようになり、A100 GPU を効率的に数千までスケール アップできます。また、マルチインスタンス GPU を使用すれば、あらゆるサイズのワークフローを加速するために 7 つの小さな専用インスタンスとして割り当てることができます。

詳細を見る 
NVIDIA A100 Tensor Core GPU

マルチインスタンス GPU (MIG)

MIG を利用することで、DGX A100 の 8 つの A100 Gpu を最大 56 個の GPU インスタンスとして構成し、それぞれが独自の高帯域幅メモリ、キャッシュ、コンピューティング コアで完全分離できます。これにより管理者は、複数のワークフローに対してサービス品質 (QoS) が保証された GPU のサイズを適切に設定することができます。

動画を見る 
Multi Instance GPU

次世代 NVLink と NVSwitch

DGX A100 の第 3 世代の NVIDIA® NVLink™ は、GPU から GPU への直接帯域幅を 600 ギガバイト/秒 (GB/s) まで倍増します。これは PCIe Gen4 のほぼ 10 倍に相当します。DGX A100 には、前世代と比較して 2 倍の速度を可能にする次世代の NVIDIA NVSwitch™ も搭載されています。

詳細を見る 
Next-Generation NVLink and NVSwitch

Mellanox ConnectX-6 VPI HDR InfiniBand

DGX A100 には最新型の Mellanox ConnectX-6 VPI HDR InfiniBand /イーサネット アダプターが搭載されており、それぞれが 200 ギガビット/秒 (GB/s) で動作し、大規模 AI ワークフロー用の高速ファブリックを形成します。

Mellanox ConnectX-6 VPI HDR InfiniBand

最適化されたソフトウェア スタック

DGX A100 には、AI チューニングされた基本オペレーティング システム、必要となるすべてのシステム ソフトウェア、GPU 対応アプリケーション、トレーニング済みモデル、NGC™ の各種機能など、テスト済みで最適化された DGX ソフトウェア スタックが統合されています。

詳細を見る 
DGX Software Stack

組み込まれたセキュリティ

DGX A100 は、あらゆる主要なハードウェアとソフトウェア コンポーネントを保護するための自動暗号化ドライブ、署名付きソフトウェア コンテナー、安全な管理と監視といったマルチレイヤー アプローチを採用することで、AI 導入において最も信頼性の高いセキュリティ体制を実現します。

Built-In Security

NVIDIA DGX システムの企業レベルのサポートをご覧ください。

詳細を見る

NVIDIA DGX SuperPOD

リーダーシップクラスの AI インフラストラクチャ

詳細を見る

NVIDIA DGX System を購入する

今すぐ申し込む

NVIDIA DGX System の詳細

お問い合わせ

詳細につきましては NVIDIA までお問い合わせください。

  1. Section
私は NVIDIA から最新の企業向けニュースやお知らせなどを受け取ることを希望します。登録はいつでも解除できます。

個人情報の保護

製品
テクノロジ
ソフトウェア
関連情報