NVIDIA 訓練與推論解決方案在衡量人工智慧效能的頂尖業界基準 MLPerf 中，樹立效能標竿記錄。
MLPerf 是由學術界、研究實驗室和業界人士組成的人工智慧領袖聯盟，基於「打造公平、實用基準」的使命，為硬體、軟體和服務的訓練與推論效能提供中立評估，且全部在預定條件下執行。為了在業界趨勢中保持領先地位，MLPerf 透過定期進行新的測試，並增加能體現最尖端人工智慧技術的全新工作負載，持續進化。
MLPerf Training v1.0 是訓練的第四階段具現化，由八種不同的工作負載組成，涵蓋多種使用案例，包括視覺、語言、推薦系統和強化學習。
MLPerf Inference v1.0 測試了七種不同神經網路中的七個使用案例。其中三個使用案例適用電腦視覺、一個針對推薦系統、兩個用於語言處理，還有一個則應用於醫療影像。
從一組固定類別中為輸入的影像指派標籤，應用於如自駕車等使用案例的電腦視覺問題。詳細資訊。
在影像或影片中尋找真實世界中的物體，如臉部、自行車和建築，並指定每個物體周圍的邊框。詳細資訊。
在影像集中偵測感興趣的不同物體，並為每個物體都識別出像素遮罩。詳細資訊。
使用遞歸神經網路 (RNN) 將某種語言的文本翻譯成另一種語言。詳細資訊。
在醫療使用案例中執行密集 3D 影像的立體分割。詳細資訊。
使用前饋神經網路 (FNN) 將某種語言的文本翻譯成另一種語言。詳細資訊。
即時辨識及轉譯音訊。詳細資訊。
利用文字區塊中不同單詞間的關係瞭解文字。能夠解答問題、釋義句子，及完成許多其他語言相關的使用案例。詳細資訊。
透過瞭解使用者與服務產品之間的互動 (如產品或廣告)，為使用者端服務提供個人化結果 (如社群媒體或電子商務網站)。詳細資訊。
在 19x19 網格座標上的策略遊戲《Go》中，評估所採取之動作的不同可能性，以獲得最大報酬。詳細資訊。
NVIDIA A100 Tensor 核心 GPU 和 NVIDIA DGX SuperPOD™ 在上市系統的每個晶片和大規模工作負載中，共創下 16 項訓練效能記錄。此突破性的效能源自於硬體、軟體與系統級技術的緊密整合。NVIDIA 持續投資全方位效能，成功改善了四個 MLPerf 提交的輸送量。
NVIDIA 的全方位創新讓效能持續提升
由於最新 MLPerf 1.0 基準的準確度要求較高，結果已根據輸送量正規化 MLPerf ID 0.5/0.6/0.7/1.0 比較： BERT：0.7-19/1.0-1060 | DLRM：0.7-17/1.0-1058 | 遮罩 R-CNN：0.5-13/0.6-9/0.7-19/1.0-1060 | ResNet50v1.5：0.5-12/0.6-8/0.7-18/1.0-1059 | SSD：0.5-13/0.6-9/0.7-19/1.0-1059 | MiniGo：0.7-20/1.0-1059 MLPerf 名稱與標誌為商標。請參閱 www.mlperf.org 以瞭解更多資訊。
適用於市面上的解決方案
NVIDIA 人工智慧平台在 OEM 伺服器和 NVIDIA DGX 中使用 NVIDA A100 GPU，在 8 項每個加速器測試皆創下記錄。這證明了端對端 NVIDIA 硬體和軟體堆疊強大的功能，可以讓電腦製造商在 MLPerf 上提供創下記錄的成果。
使用 8 個 NVIDIA A100 伺服器訓練時間計算出的 A100 每個加速器的效能，再乘以 8 | 比較最類似規模的效能，以得出與其他每個晶片效能的比較。
每個加速器的記錄： BERT：1.0-1033 | DLRM：1.0-1037 | 遮罩 R-CNN：1.0-1057 | Resnet50 v1.5：1.0-1038 | SSD：1.0-1038 | RNN-T：1.0-1060 | 3D-Unet：1.0-1053 | MiniGo：1.0-1061
最大規模記錄： BERT：1.0-1077 | DLRM：1.0-1067 | 遮罩 R-CNN：1.0-1070 | Resnet50 v1.5：1.0-1076 | SSD：1.0-1072 | RNN-T：1.0-1074 | 3D-Unet：1.0-1071 | MiniGo：1.0-1075
MLPerf 名稱與標誌為商標。請參閱 www.mlperf.org 以瞭解更多資訊。
NVIDIA 在所有情境 (資料中心伺服器和離線、邊緣端單一串流、多串流和離線) 中，都達到了頂尖的效能成果。 此外，在所有測試產品中，我們在跨全部基準測試中都達到各加速器最佳的效能表現。這些成果不僅證明了 NVIDIA 在推論效能的領先地位，也說明我們的推論平台具備多功能性。
*DLRM 不屬於邊緣類別套件
1) 用於資料中心伺服器裝置，以及離線與伺服器情境的 MLPerf v1.0 推論成果。2021 年 4 月 21 日擷取自 www.mlperf.org。每個處理器效能的計算方法是將整體效能的主要指標除以回報的加速器數量。 2) 用於邊緣裝置，以及單一串流與多串流情境的 MLPerf v1.0 推論成果。2021 年 4 月 21 日擷取自 www.mlperf.org。
1) 用於資料中心伺服器裝置，以及離線與伺服器情境的 MLPerf v1.0 推論成果。2021 年 4 月 21 日擷取自 www.mlperf.org，來源條目 Inf-1.0-37、Inf-1.0-63、Inf-1.0-65，每個處理器效能的計算方法是將整體效能的主要指標除以回報的加速器數量。 2) 用於邊緣裝置，以及離線情境的 MLPerf v1.0 推論成果。2021 年 4 月 21 日擷取自 www.mlperf.org，來源條目 Inf-1.0-25。
需要平台在各方面間緊密整合，才能實現複雜的人工智慧技術。誠如 MLPerf 的基準測試成果所示，NVIDIA 人工智慧平台利用全球最先進的 GPU、強大且可擴充的互連技術，以及尖端軟體提供領先效能，是一款可部署在資料中心、雲端或邊緣的端對端解決方案，更能達到驚人成效。
NGC™ 作為 NVIDIA 平台及促成 MLPerf 訓練與推論成果的基本元件，是一款適用於 GPU 最佳化人工智慧、高效能運算 (HPC) 和資料分析軟體的中樞，可簡化並加速端對端工作流程。NGC 擁有超過 150 個企業級容器，包括對話式人工智慧和推薦系統的工作負載、超過 100 個模型，及可部署於本機、雲端或邊緣的特定產業 SDK，讓資料科學家、研究人員和開發人員能以前所未有的速度打造出一流的解決方案、搜集見解，並提供商業價值。
若要在訓練與推論中獲得領先全球的成果，需要具備專為全球最複雜人工智慧挑戰而打造的基礎架構。NVIDIA 人工智慧平台可運用 NVIDIA A100 Tensor 核心 GPU、NVIDIA A30 Tensor 核心 GPU、NVIDIA A10 Tensor 核心 GPU，以及 NVIDIA 互連技術的可擴充性和彈性的強大功能，提供 NVIDIA NVLink®、NVIDIA NVSwitch™ 及 NVIDIA ConnectX®-6 VPI。這些都是 NVIDIA DGX™ A100 的核心，也是我們基準測試效能背後的引擎。
NVIDIA DGX™ 系統提供了可擴充性、快速部署和強大的運算能力，讓每個企業都能打造頂尖的人工智慧基礎架構。
深入瞭解我們的資料中心訓練和推論產品效能。