MLPerf とは?
MLPerf™ ベンチマークは、学術、研究室、業界の AI リーダーで構成されるコンソーシアムである MLCommons が開発したものです。これは、ハードウェア、ソフトウェア、サービスのトレーニングと推論パフォーマンスを公平に評価するために設計されています。 これらはすべて、規定された条件下で実施されています。 業界トレンドの最先端に対応し続けるため、MLPerf は定期的に新しいテストを実施したり、AI の最先端を示す新しいワークロードを追加したりするなど、進化を続けています。
MLPerf ベンチマークの詳細
MLPerf Inference v6.1 は、高密度および混合エキスパート (MoE) の大規模言語モデル (LLM)、ビジョン言語モデル、テキストから動画の生成モデル、生成型レコメンダーなど、さまざまなモデル アーキテクチャで推論パフォーマンスを測定します。
MLPerf Training v6.0 は、LLM、テキストから画像の生成、レコメンダー、グラフ ニューラル ネットワーク、物体検出など、さまざまなタイプのモデルにわたって、指定された品質レベルでモデルのトレーニング時間を測定します。
NVIDIA の MLPerf ベンチマークの結果
-
トレーニング
-
Inference
NVIDIA プラットフォームは、7 つの MLPerf Training v5.1 ベンチマークすべてで最速のトレーニング時間を達成しました。 Blackwell Ultra が登場し、アーキテクチャの強化と画期的な NVFP4 トレーニング手法により、大規模言語モデルの事前学習とファインチューニングに大きな飛躍をもたらしました。これによりパフォーマンスが向上し、MLPerf の厳格な精度要件を満たしています。 NVIDIA はまた、NVFP4 により実現した規模の倍化と GPU あたりの大幅なパフォーマンス向上を組み合わせることで、Blackwell Llama 3.1 405B の事前学習パフォーマンスを大規模環境で 2.7 倍に向上させました。NVIDIA はまた、新規追加されたベンチマーク Llama 3.1 8B と FLUX.1 の両方でパフォーマンス記録を樹立し、既存のレコメンダー、物体検出、グラフ ニューラル ネットワーク ベンチマークでもパフォーマンス記録を保持し続けています。
NVIDIA Blackwell Ultra が、MLPerf トレーニングの登場により大きく飛躍
MLPerfTraining v5.0, v5.1, and v6.0 results retrieved from www.mlcommons.org on June 16, 2026. MLPerf GPU scale results from entries 5.0-0004, 5.1-004, 6.0-0001, 6.0-0005, and 6.0-0014. MLPerf Blackwell training comparison from the following entries: 6.0-0006, 6.0-0013, 6.0-0017, 6.0-0018, 6.0-0078, and 5.1-0072. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use is strictly prohibited. See www.mlcommons.org for more information.
Annual Rhythm and Extreme Co-Design for Sustained Training Leadership
The NVIDIA platform delivered the fastest time to train on every MLPerf Training v6 benchmark, with innovations across chips, systems, and software enabling sustained training performance leadership, as shown on industry-standard, peer-reviewed performance data.
最大スケールの性能
| Benchmark | Time to Train |
|---|---|
| LLM Pretraining (Llama 3.1 405B) | 10 minutes |
| LLM Pretraining (Llama 3.1 8B) | 5.2 minutes |
| LLM Fine-Tuning (Llama 2 70B LoRA) | 0.40 minutes |
| Image Generation (FLUX.1) | 12.5 minutes |
| Recommender (DLRM-DCNv2) | 0.71 minutes |
| Graph Neural Network (R-GAT) | 0.84 minutes |
| Object Detection (RetinaNet) | 1.4 minutes |
MLPerf™ Training v6.0 retrieved from www.mlcommons.org on June 16, 2026, from the following entries: 6.0-0005, 6.0-0102, 6.0-0001, 6.0-0102, 6.0-0015, 6.0-0101, and 6.0-0062. The MLPerf name and logo are trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use is strictly prohibited. See www.mlcommons.org for more information.
NVIDIA Vera Rubin NVL72 Delivers Leading Performance in MLPerf Inference v6.1 Debut
Three factors are central to AI inference economics: system performance, infrastructure scaling efficiency, and continuous software optimization. Higher performance means more tokens generated, driving higher revenue. Efficient scaling means throughput grows proportionally as hardware is added, requiring fewer resources to serve users. Continuous optimization means more value from infrastructure already deployed.
The NVIDIA platform is purpose-built to advance all three, and MLPerf Inference v6.1 results show how:
- Vera Rubin NVL72 debuts with leading performance: In its first MLPerf Inference submission, Vera Rubin NVL72 delivers up to 3.7x higher throughput than GB300 NVL72.
- GB300 NVL72 scales with leading efficiency: A 288-GPU submission across four GB300 NVL72 racks achieved 99% scaling efficiency, with throughput growing nearly linearly from a single-rack baseline.
- Software optimizations drive continuous gains: v6.1 software advances delivered up to 1.6x higher performance over v6.0, with further gains from post-submission optimization.
Performance, scaling efficiency, and software velocity together determine long-term AI infrastructure economics.
MLPerf Inference v6.1, Closed Division. Results retrieved from www.mlcommons.org on Sept. 16, 2026. NVIDIA platform results from the following entries: 6.1-0106, 6.1-0073, and 6.1-0074. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use is strictly prohibited. See www.mlcommons.org for more information.
成果の背後にあるテクノロジ
AI の仕組みは複雑であり、プラットフォームのあらゆる面をしっかりと統合することが必要となります。MLPerf のベンチマークが示したように、NVIDIA AI プラットフォームは、世界最先端の GPU、パワフルかつスケーラブルな相互接続テクノロジ、最新のソフトウェアにより、他をリードするパフォーマンスを提供します。これはデータ センター、クラウド、エッジでデプロイ可能なエンドツーエンドのソリューションで、驚異的な成果をもたらします。
AI ワークフローを加速する最適化されたソフトウェア
NVIDIA Dynamo は、AI ファクトリー規模でマルチノード環境にモデルをデプロイするオープンソースの分散推論サービング フレームワークです。 推論を分離し、ルーティングを最適化し、コスト効率の高いストレージ層へのデータ キャッシュを通じてメモリを拡張することで、分散サービングを効率化します。
Dynamo は、LLM 推論のプリフィル フェーズとデコード フェーズを異なる GPU に分散 (分離) することで、各フェーズを個別に最適化してスループットを向上します。MLPerf Inference v5.1 ベンチマークで大きく取り上げられ、Llama 3.1 405B Interactive および DeepSeek-R1 推論テストで優れたパフォーマンスを実証しました。
業界トップクラスの AI インフラストラクチャ
トレーニングから推論に至るまで世界をリードする結果を達成するには、世界で最も複雑な AI の課題に特化したインフラが必要です。 NVIDIA AI プラットフォームは、NVIDIA Blackwell および Blackwell Ultra プラットフォームを搭載し、NVIDIA GB300 NVL72 および GB200 NVL72 システム、NVLink と NVLink Switch、Quantum InfiniBand などにより、業界をリードするパフォーマンスを実現しました。 これらは、NVIDIA データセンター プラットフォームを基盤とした AI ファクトリーの中核であり、ベンチマーク パフォーマンスを支えるエンジンです。
加えて、NVIDIA DGX™ システムは、拡張性、迅速なデプロイ、驚異的な演算能力を提供し、あらゆる企業が業界トップクラスの AI インフラを構築できるようにします。
NVIDIA のデータ センターのトレーニングと推論パフォーマンスの詳細をご覧ください。
リーズニング LLM
MLPerfInference は以下を活用しています。
DeepSeek-R1 では、AIME、MATH500、GPQA Diamond、MMLU-Pro、LiveCodeBench のデータセットから取得したサンプルを使用しています。
GPT-OSS-120B では AIME 2024、LivecodeBench v6、GPQA Diamond のでデータセットから取得したサンプルを使用しています。
視覚言語モデル
MLPerf Inference では、Shopify Product Catalog データセットを使用して Qwen3-VL-235B-A22B-Instruct モデルを活用しています。
LLM
MLPerf Inference は以下を活用しています。
Llama 3.1 405B では、LongBench、LongDataCollection、RULER、GovReport サマリーから取得したサンプルを活用しています。Llama 2 70B は、OpenOrca を活用しています。Llama 3.1 8B は、CNN/DailyMail を使用しています。Mixtral 8x7B では、OpenOrca、GSM8K、MBXP データセットから取得したサンプルを活用しています。
MLPerf Training では、c4 (v3.0.1) データセットを含む LLM 事前学習ワークロードに、4050 億個のパラメーターとシーケンス長が 8,192 である Llama 3.1 生成言語モデルを採用しています。LLM ファインチューニング テストには、Llama 2 70B モデルと GovReport データセットを使用し、シーケンス長は 8,192 です。Llama 3.1 8B はまた、シーケンス長が 8,192 の C4 データセットを使用しています。
テキストから動画の生成
MLPerf Inference では、VBench データセットで Wan-2.2-T2V-A14B を活用しています。
テキストから画像の生成
MLPerf トレーニングでは、CC12M データセットでトレーニングされた FLUX.1 テキスト画像生成モデルを使用し、評価には COCO 2014 データセットを使用します。
レコメンダー
MLPerf Inference では、DLRMv3 を Synthetic Streaming 100B データセットで活用しています。
MLPerf Training および Inference は、DCNv2 クロスレイヤーと、Criteo データセットから合成されたマルチホット データセットを採用したディープラーニング レコメンデーション モデル v2 (DLRMv2) を使用します。
グラフ ニューラル ネットワーク
MLPerf Inference では、Illinois Graph Benchmark（IGB）の異種データセットを使用します。
MLPerf Training では、R-GAT とIllinois Graph Benchmark（IGB）の異種データセットを使用します。
音声認識
MLPerf 推論は、LibriSpeech データセットで Whisper-Large-V3 を使用します。
