NVIDIA DGX A100

AI インフラストラクチャ向けのユニバーサル システム

NVIDIA A100 で構築された世界初の AI システム

NVIDIA DGX A100 は、あらゆる AI ワークフローに対応するユニバーサル システムで、前例のない計算処理密度、パフォーマンス、柔軟性を提供する世界初の 5 ペタフロップス AI システムです。DGX A100 は NVIDIA A100 Tensor コア GPU を備えており、企業はトレーニング、推論、分析を、展開を簡単にでき、NVIDIA AI エキスパートへの直接アクセスが含まれる AI インフラストラクチャに統合できます。

AI データ センターに欠かせないビルディング ブロック

The Universal System for Every AI Workload

すべての AI ワークフローのためのユニバーサル システム

NVIDIA DGX A100 は、分析からトレーニング、推論に至るまで、あらゆる AI インフラストラクチャのためのユニバーサル システムです。6U のフォームファクタに 5 ペタフロップスの AI パフォーマンスを詰め込み、従来のインフラストラクチャのサイロを、すべての AI ワークフローに対応する単一のプラットフォームに置き換えることで、計算処理密度の新しい水準を確立します。

DGXperts: Integrated Access to AI Expertise

DGXperts: AI の専門知識への統合的アクセス

NVIDIA DGXperts は、お客様による DGX 投資への価値を最大化できるよう過去 10 年間にわたり豊富な経験を積んできた、20,000 人を超える AI に精通した専門家から成る世界的なチームです。

Fastest Time To Solution

最速で解決

NVIDIA DGX A100 は、NVIDIA A100 Tensor コア GPU をベースに開発された世界初の AI システムです。320GB と 640GB の GPU メモリ オプションを持つ 8 基の A100 GPU を統合したこのシステムは、かつてないほどの高速化を実現し、NVIDIA CUDA-X™ ソフトウェアとエンドツーエンドの NVIDIA データ センター ソリューション スタック用に完全に最適化されています。

data center-scalability-icon

比類ないデータ センターの拡張性

NVIDIA DGX A100 は、ピーク時の双方向帯域幅が 500 ギガバイト/秒 (GB/s) の Mellanox ネットワーキングを内蔵しています。これは、スケーラブル AI インフラストラクチャのリファレンス アーキテクチャとなるNVIDIA DGX SuperPOD™ などの大規模 AI クラスターの基本構成要素に DGX A100 を据えるための数ある機能の中の 1 つです。

より簡単で迅速に AI を導入するための方法

より簡単で迅速に AI を導入するための方法

NVIDIA AI Starter Kit は、世界最高の AI プラットフォームから最適化されたソフトウェアとツール、コンサルティング サービスに至るまで、チームに必要なすべてを提供します。そのため、AI 導入戦略をすぐに始めることができます。AI プラットフォームの構築で時間とお金を無駄にしません。プラグインと電源投入を 1 日で、定義済みのユースケースを 1 週間で実現し、すぐにモデルの生産を開始できます。

  • 開発者向け
  • IT 管理者向け
  • ビジネスリーダー向け
Solve Bigger, More Complex Data Science Problems Faster

より大きくさらに複雑なデータ サイエンスの問題を短時間で解決する

メリット

  • すぐに実行できる最適化された AI ソフトウェアで、面倒なセット アップやテストが不要になります。
  • 高速反復処理を可能にする比類ないパフォーマンスを備えた、優れたモデルをご確認ください。
  • - システム統合とソフトウェア エンジニアリングにおける時間の浪費を回避します。
Deploy Infrastructure and Operationalize AI at Scale

インフラストラクチャを導入し、大規模に AI を運用可能に

メリット

  • すべての AI ワークフローに対応する 1 つのシステムで、簡素化されたインフラストラクチャ設計とキャパシティ プランニングを体験できます。
  • 最小のフットプリントで最高の計算処理密度とパフォーマンスを実現します。
  • 容器からチップに至るまで、すべてのレイヤーにおいて組み込まれたセキュリティを活用してください。

 

Shorten Time to Insights and Accelerate ROI of AI

洞察に要する時間を短縮して AI の ROI を加速

メリット

  • データ サイエンティストの生産性を向上させ、付加価値のない労力を排除します。
  • コンセプトから生産段階まで、開発サイクルを加速します。
  • DGXperts がアドバイスし、障害となる問題を解決します。
  •  

NVIDIA DGX A100 システムの詳細を見る

一変させるパフォーマンス

トレーニング

DLRM トレーニング

​最大規模のモデルで AI トレーニングのスループットが最大 3 倍に向上

推論

RNN-T 推論: 単一のストリーム

AI 推論のスループットが最大
1.25 倍に向上  

データ分析

ビッグ データ分析のベンチマーク

​CPU より最大 83 倍のスループット、DGX A100 320GB より最大 2 倍のスループット

DGX A100 の高性能コンポーネントをご覧ください。

18 倍の NVIDIA A100 GPU と最大 640GB の合計 GPU メモリ 
12 NVLinks/GPU、毎秒 600GB の GPU-to-GPU 双方向帯域幅

26 基の NVIDIA NVSWITCH
双方向の帯域幅: 4.8 TB/秒前世代と比較して 2 倍

3 10 Mellanox ConnectX-6 200/Gb ネットワーク インターフェイス
ピーク時の双方向の帯域幅: 500 GB/秒 

4 2 基の 64 コア AMD CPU と 2 TB システム メモリ
3.2 倍のコアで負荷の高い AI ジョブに対応 

5 30TB GEN4 NVME SSD
50GB/秒のピーク帯域幅、2 倍速 Gen3 NVME SSD 

Explore the Powerful Components of DGX A100

新しい NVIDIA DGX A100 の詳細をご覧ください。

NVIDIA DGX A100 のテクノロジ

  • A100 GPU
  • マルチインスタンス GPU
  • NVLink と NVSwitch
  • ConnectX-7
  • 最適化されたソフトウェア スタック
  • セキュリティ

NVIDIA A100 Tensor コア GPU

NVIDIA A100 Tensor コア GPU による前例のない高速化をもって、世界で最も困難な計算に AI、データ分析、HPC (ハイ パフォーマンス コンピューティング) で挑むことができます。第 3 世代の NVIDIA Tensor コアにより性能を大幅に向上できるようになり、A100 GPU を効率的に数千までスケール アップできます。また、マルチインスタンス GPU を使用すれば、あらゆるサイズのワークフローを加速するために 7 つの小さな専用インスタンスとして割り当てることができます。

NVIDIA A100 Tensor Core GPU

マルチインスタンス GPU (MIG)

MIG を利用することで、DGX A100 の 8 つの A100 Gpu を最大 56 個の GPU インスタンスとして構成し、それぞれが独自の高帯域幅メモリ、キャッシュ、コンピューティング コアで完全分離できます。これにより管理者は、複数のワークフローに対してサービス品質 (QoS) が保証された GPU のサイズを適切に設定することができます。

Multi Instance GPU

次世代 NVLink と NVSwitch

DGX A100 の第 3 世代の NVIDIA® NVLink™ は、GPU から GPU への直接帯域幅を 600 ギガバイト/秒 (GB/s) まで倍増します。これは PCIe Gen4 のほぼ 10 倍に相当します。DGX A100 には、前世代と比較して 2 倍の速度を可能にする次世代の NVIDIA NVSwitch™ も搭載されています。

Next-Generation NVLink and NVSwitch

NVIDIA ConnectX-7 毎秒 200Gb InfiniBand/Ethernet

DGX A100 は NVIDIA ConnectX-7 InfiniBand と VPI (Infiniband または Ethernet) アダプターを備え、それぞれが毎秒 200 ギガビット (Gb/s) で実行され、大規模 AI ワークロードのために高速ファブリックを構築します。

NVIDIA ConnectX-7 毎秒 200Gb InfiniBand/Ethernet

最適化されたソフトウェア スタック

DGX A100 には、AI チューニングされた基本オペレーティング システム、必要となるすべてのシステム ソフトウェア、GPU 対応アプリケーション、トレーニング済みモデル、NGC™ の各種機能など、テスト済みで最適化された DGX ソフトウェア スタックが統合されています。

DGX Software Stack

組み込まれたセキュリティ

DGX A100 は、あらゆる主要なハードウェアとソフトウェア コンポーネントを保護するための自動暗号化ドライブ、署名付きソフトウェア コンテナー、安全な管理と監視といったマルチレイヤー アプローチを採用することで、AI 導入において最も信頼性の高いセキュリティ体制を実現します。

Built-In Security

NVIDIA DGX システムの企業レベルのサポートをご覧ください。

NVIDIA DGX SuperPOD

リーダーシップクラスの AI インフラストラクチャ

NVIDIA DGX System を購入する

NVIDIA DGX System の詳細