MLPerf の基準を塗り替える

NVIDIA のトレーニングおよび推論ソリューションは、業界をリードする AI パフォーマンスのベンチマークである MLPerf の記録を塗り替えるパフォーマンスを提供します。

NVIDIA の成果を見る

MLPerf とは?

MLPerf は、「公平かつ有用なベンチマークを作る」ことを目指した学界、研究機関、業界の AI リーダーたちによるコンソーシアムで、ハードウェア、ソフトウェア、サービスのトレーニングおよび推論のパフォーマンスに対し公正な評価を提供します。この評価はすべて、規定された条件下で行われます。業界のトレンドの最先端を走り続けるため、MLPerf は継続的に進化し、新しいテストを定期的に実施して、最新の AI を示す新しいワークロードを追加しています。

チャルマース工科大学は、スウェーデン有数の研究機関であり、ナノテクノロジから気候研究まで、さまざまな分野に特化しています。AI を取り入れて研究を進める中で、 MLPerf ベンチマークは、複数の AI プラットフォームを透明性のある同一条件で比較を行い、実世界の多様な用途における実際のパフォーマンスを示すことがわかりました

— スウェーデンのチャルマース工科大学

TSMC は、プロセス テクノロジで市場をリードしている最新の 5nm ノードのように、世界の最新の半導体製造を加速しています。リソグラフィーやエッチング モデリングをベースとする機械学習などのイノベーションは、OPC (Optical Proximity Correction/光近接効果補正) とエッチング シミュレーションの精度を飛躍的に向上しています。モデル トレーニングと推論における機械学習の可能性を完全に引き出すために、NVIDIA エンジニアリング チームと協力し、Maxwell シミュレーションと ILT (Inverse Lithography Technology/逆変換露光技術) エンジンを GPU に移植し、大幅なスピードアップを実現しています。MLPerf ベンチマークは、当社の意志決定における重要な要素です。

— TSMC (米国カリフォルニア州サンノゼ) OPC 部門ディレクター、Danping Peng 博士

コンピュータ ビジョンとイメージングは AI 研究の中核であり、科学的発見を推進し、医療ケアの中心的存在になっています。当センターでは NVIDIA と協力して、3DUNet などのイノベーションをヘルスケア市場に導入しています。業界標準の MLPerf ベンチマークは、IT 組織や開発者が特定のプロジェクトやアプリケーションを高速化するための適切なソリューションを得るために必要な関連性のあるパフォーマンス データを提供します。

— Deutsches Krebsforschungszentrum (DKFZ/ドイツ癌研究センター) の医用画像コンピューティング部門リーダー、Klaus Maier-Hein 博士

研究と製造で世界をリードする Samsung は、AI を利用し製品のパフォーマンスと製造生産性を飛躍的に向上させています。AI の最新テクノロジを製品化するには、最高のコンピューティング プラットフォームが必要です。MLPerf ベンチマークは、さまざまなプラットフォームを同じ条件で評価するオープンで直接的なメソッドを提供するため、選択プロセスを合理化します。

— サムスン電子

MLPerf 検証カテゴリ

MLPerf Training v1.0 は、第 4 ラウンド目のトレーニング ベンチマークです。ビジョン、言語、レコメンダー、強化学習などのさまざまなユースケースを対象とする 8 種類のワークロードで構成されています。

MLPerf Inference v1.0 では、7 種類のニューラル ネットワークで 7 つの異なるユースケースをテストしました。それらのユースケースのうち、 3 つはコンピューター ビジョン、1 つはレコメンダー システム、2 つは言語処理、1 つは医用画像処理でした。

画像分類

画像分類

入力された画像に、決められた一連のカテゴリからラベルを割り当てます。コンピューター ビジョンの問題に応用されます。詳細。

物体検出 (軽)

物体検出 (軽)

画像や動画内の顔、自転車、建物など、実在する物体のインスタンスを見つけ、それぞれの周囲にバウンディング ボックスを指定します。詳細。

物体検出 (重)

物体検出 (重)

画像に現れる、対象の個別のオブジェクトを検出し、それぞれのピクセル マスクを識別します。詳細。

生物医学画像セグメンテーション

生物医学画像セグメンテーション

医療用途の密な 3D 画像でボリューム セグメンテーションを実行します。 詳細。

翻訳 (リカレント)

翻訳 (リカレント)

リカレント ニューラル ネットワーク (RNN) を使用して、ある言語から別の言語にテキストを翻訳します。詳細。

自動音声認識 (ASR)

自動音声認識 (ASR)

音声をリアルタイムで認識し、書き起こします。詳細。

自然言語処理 (NLP)

自然言語処理 (NLP)

ひとかたまりのテキスト中のさまざまな単語間の関係を使用してテキストを認識します。質問への回答、文の言い換え、その他のさまざまな言語関連のユースケースを可能にします。詳細。

レコメンデーション

レコメンデーション

ユーザーと、製品や広告などのサービス アイテムとのやりとりを理解することで、ソーシャル メディアや E コマース ウェブサイトなどのユーザー向けサービスでパーソナライズされた内容を提供します。詳細。

強化学習

強化学習

19x19 の盤面で対局する囲碁を使用して、さまざまな手を評価し、戦略的効果を最大に高めます。詳細。

NVIDIA の MLPerf ベンチマークの成果

  • トレーニング

    トレーニング

  • 推論

    推論

NVIDIA A100 Tensor コア GPU と NVIDIA DGX SuperPOD™ は、16 のトレーニングすべてにおいて、チップあたりのワークロードと大規模ワークロードの両方でパフォーマンス記録を更新しました。この画期的なパフォーマンスは、ハードウェア、ソフトウェア、システムレベルのテクノロジの緊密な統合と、NVIDIA によるフルスタック パフォーマンスへの継続的な投資によって実現したものです。またこれは、4 つの MLPerf サブミッションに対するスループットの向上にもつながっています。この NVIDIA プラットフォームは、パフォーマンスとユーザビリティの両方に優れており、データセンターからエッジ、クラウドまでに向けた、単一のリーダーシップ プラットフォームを提供します。

MLPerf の 3 年間でパフォーマンスが 20 倍超に

NVIDIA のフルスタック イノベーションにより、継続的な改善を実現

MLPerf トレーニング パフォーマンス ベンチマーク

MLPerf 1.1 の最新ラウンドで高くなった精度要件に合わせてスループットを標準化した結果
MLPerf ID 0.5/0.7/1.1 の比較:
SSD: 0.5-23/0.7-53/1.1-2078 | BERT: 0.7-56/1.1-2083 | ResNet50v1.5: 0.5-17/0.7-55/1.1-2082 | Mask R-CNN: 0.5-22/0.7-48/1.1-2076 | MLPerf の名称およびロゴは商標です。詳細は、www.mlperf.org をご覧ください。

NVIDIA が 16 の記録をすべて更新

市販されているソリューションの場合

NVIDIA AI プラットフォームは、NVIDIA DGX だけでなく、OEM サーバーに搭載された NVIDIA A100 GPU を使用し、アクセラレータごとの記録を 8 つすべて更新しました。これは、コンピューター メーカーが MLPerf で記録した結果を提供することを可能にする、エンドツーエンド NVIDIA ハードウェア/ソフトウェア スタックの強みを見せるものです。

ベンチマーク 大規模の記録 (分) アクセラレータごとの記録 (分)
レコメンデーション (DLRM) 0.63 (DGX SuperPOD) 13.5 (A100)
NLP (BERT) 0.24 (DGX SuperPOD) 155.1 (A100)
音声認識 - リカレント (RNN-T) 2.38 (DGX SuperPOD) 267.0 (A100)
物体検出 - 重 (Mask R-CNN) 3.24 (DGX SuperPOD) 335.1 (A100)
物体検出 - 軽 (SSD) 0.45 (DGX SuperPOD) 63.8 (A100)
画像分類 (ResNet-50 v1.5) 0.35 (DGX SuperPOD) 220.5 (A100)
画像セグメンテーション (3D-Unet) 1.26 (Microsoft Azure NDm A100 v4) 187.7 (A100)
強化学習 (MiniGo) 15.47 (DGX SuperPOD) 1805.2 (A100)

NVIDIA パートナーの単一ノードのトレーニング時間にチップ数を掛けて計算された、A100 のアクセラレータごとのパフォーマンス | 他とのチップごとのパフォーマンス比較 (最も近似した規模でパフォーマンスを比較)。
最大規模の記録: DLRM: 1.1-2073  |  BERT: 1.1-2083  |  Mask R-CNN: 1.1-2076  |  Resnet50 v1.5: 1.1-2082  |  SSD: 1.1-2078  |  RNN-T: 1.1-2080  |  3D-Unet: 1.1-2012  |  MiniGo: 1.1-2081
アクセラレータごとの記録: DLRM: 1.1-2084  |  BERT: 1.1-2053  |  Mask R-CNN: 1.1-2031  |  Resnet50 v1.5: 1.1-2050  |  SSD: 1.1-2050  |  RNN-T: 1.1-2052  |  3D-Unet: 1.1-2051  |  MiniGo: 1.1-2031
MLPerf の名称およびロゴは商標です。詳細は、www.mlperf.org をご覧ください。

NVIDIA はすべてのシナリオ (データ センター サーバーとオフライン、ならびにエッジ シングルストリーム、マルチストリーム、オフライン) で最高のパフォーマンス結果を達成しました。また、すべての製品を対象とするベンチマーク テストすべてにおいて、アクセラレータあたりで最高のパフォーマンスを実現しました。これらの結果は、推論パフォーマンスにおける NVIDIA のリーダーシップだけではなく、NVIDIA の推論プラットフォームの汎用性の高さを証明しています。

データ センターとエッジのオフライン シナリオ (単一の GPU)

  NVIDIA A100 (x86 CPU)
(推論/秒)		 NVIDIA A100 (Arm CPU)
(推論/秒)		 NVIDIA A30
(推論/秒)		 NVIDIA® Jetson Xavier™
(最大推論/クエリ)
DLRM
(レコメンダー)		 302,680 274,433 135,450 N/A*
BERT
(自然言語処理)		 3,538 3,151 1,673 97
ResNet-50 v1.5
(画像分類)		 39,190 36,436 18,647 2,039
ResNet-34
(大規模な Single-Shot Detector)		 981 901 474 55
RNN-T
(音声認識)		 13,365 12,640 6,574 416
3D U-Net
(医用画像処理)		 61 57 30 3

*DLRM は Edge カテゴリ スイートに含まれていません。

1) データ センター サーバー フォーム ファクターとオフライン シナリオの MLPerf v1.1 Inference の結果は、2021 年 9 月 22 日に www.mlperf.org から取得。エントリは Inf-1.1-047、Inf-1.1-43、Inf-1.1-023-026。プロセッサあたりのパフォーマンスはパフォーマンス合計のプライマリ メトリックを、報告されたアクセラレータの数で割ることにより算出。

2) オフライン シナリオのエッジ フォーム ファクターの MLPerf v1.1 Inference の結果は、2021 年 9 月に www.mlperf.org から取得。エントリは 1.1-117。プロセッサあたりのパフォーマンスはパフォーマンス合計のプライマリ メトリックを、報告されたアクセラレータの数で割ることにより算出。

成果の背後にあるテクノロジ

AI の仕組みは複雑であり、プラットフォームのあらゆる面をしっかりと統合することが必要となります。MLPerf のベンチマークが示したように、NVIDIA AI プラットフォームは、世界最先端の GPU、パワフルかつスケーラブルな相互接続テクノロジ、最新のソフトウェアにより、他をリードするパフォーマンスを提供します。これはデータ センター、クラウド、エッジでデプロイ可能なエンドツーエンドのソリューションで、驚異的な成果をもたらします。

NVIDIA NGC の学習済みモデルと最適化されたソフトウェア

AI ワークフローを加速する最適化されたソフトウェア

NVIDIA プラットフォームと MLPerf トレーニングおよび推論の成果に欠かせない要素である NGC™ は、GPU に最適化された AI、HPC (ハイ パフォーマンス コンピューティング)、データ分析ソフトウェアをまとめたもので、エンドツーエンドのワークフローを簡素化および高速化します。NGC は、対話型 AI やレコメンダー システムのワークロードなど 150 以上のエンタープライズ グレードのコンテナー、100 以上のモデル、オンプレミス/クラウド/エッジにデプロイ可能な業界に特化した SDK に対応しています。これにより、データ サイエンティスト、研究者、開発者は、クラス最高のソリューションの構築、インサイトの収集、ビジネス価値の提供を、これまでにない素早さで行えるようになります。

NGC にアクセスする

業界トップクラスの AI インフラストラクチャ

トレーニングと推論において世界をリードする結果を得るには、世界で最も複雑な AI の課題に特化したインフラストラクチャが必要です。NVIDIA AI プラットフォームは、NVIDIA A100 Tensor コア GPU、NVIDIA A30 Tensor コア GPU、NVIDIA A2 Tensor コア GPU のパワーと、NVIDIA NVLink®、NVIDIA NVSwitch™、NVIDIA ConnectX®-6 VPI といった NVIDIA 相互接続テクノロジの拡張性および柔軟性を利用して提供されます。これらは NVIDIA のベンチマークにおけるパフォーマンスを支えるエンジン、NVIDIA DGX™ A100 の中核を成しています。

NVIDIA DGX™ システムは、あらゆる企業が業界トップクラスの AI インフラストラクチャを構築できるよう、拡張性、迅速なデプロイ、驚異的な演算能力を実現します。

詳細を見る
NVIDIA Tensor コア GPU

NVIDIA のデータ センター トレーニングおよび推論製品のパフォーマンスの詳細をご覧ください。

パフォーマンスを見る
画像分類

画像分類

MLPerf トレーニングおよび推論では ResNet v1.5 と ImageNet データセットを使用。
MLPerf 推論では ImageNet データセットで ResNet-50 v.1.5 と MobileNet-v1 を使用。
物体検出 (軽)

物体検出 (軽)

MLPerf トレーニングでは COCO 2017 データセットで SSD (Single-Shot Detector) を使用。
MLPerf 推論では SSD-MobileNet-v1 (低解像度、0.09 MP) と COCO 2017 データセットを使用。
物体検出 (重)

物体検出 (重)

MLPerf トレーニングでは COCO 2014 データセットで Mask R-CNN を使用。
MLPerf 推論では SSD-ResNet-34 (高解像度、1.44 MP) と COCO 2014 データセットを使用。
翻訳 (リカレント)

翻訳 (リカレント)

MLPerf では WMT 英語-ドイツ語データセットで Google の機械翻訳システム (GNMT) を使用。
MLPerf 推論では、WMT16 データセットで Google ニューラル機械翻訳 (GNMT) RNN を使用。
翻訳 (非リカレント)

翻訳 (非リカレント)

MLPerf では WMT 英語-ドイツ語データセットで Transformer を使用。
MLPerf 推論では LibriSpeech データセットで RNN-T ネットワークを使用して音声認識を測定。
自然言語処理 (NLP)

自然言語処理 (NLP)

MLPerf トレーニングでは Wikipedia 2020/01/01 データセットで BERT (Bidirectional Encoder Representations from Transformers) を使用。
MLPerf 推論では BERT と SQuAD v.1.1 データセットを使用。
レコメンデーション

レコメンデーション

MLPerf トレーニングおよび推論では Criteo 1 TB データセットで DLRM (Deep Learning Recommendation Model) を使用。
MLPerf 推論では Criteo Terabyte データセットで DLRM ネットワークを使用。
強化学習

強化学習

MLPerf トレーニングでは Mini Go ベンチマーク ベース ゲームプレイを使用。
自動音声認識 (ASR)

自動音声認識 (ASR)

MLPerf トレーニングおよび推論では Librispeech データセットで RNN-T を使用。
生物医学画像セグメンテーション

生物医学画像セグメンテーション

MLPerf トレーニングおよび推論では、UNet-3D と共にそれぞれ KiTS19 と BraTS 2019 データセットを使用。
製品
テクノロジ
ソフトウェア
関連情報