在 NVIDIA AI 基礎架構將 AI 工作負載效能最佳化。
概覽
NVIDIA Performance Benchmarking 套件集工具、範本與服務於一身,可精準測量 AI 工作負載與基礎架構效能,再也不需要猜測。NVIDIA Performance Benchmarking 提供標準化的客觀方法,可評估跨平台的效能,對 AI 工作負載最佳化並加速成果。
利用 NVIDIA 效能基準測試的工具、服務與範本套件,將任何 NVIDIA 加速基礎架構上的 AI 工作負載效能最佳化。
Performance Explorer 這款工具可協助使用者確定 GPU 的理想數量為何,以便盡可能減少總訓練時間與成本。目的是為既定的工作負載確認恰當的 GPU 數量,能盡可能提升資料傳輸量,同時又能使成本支出降至最低,且能涵蓋多個專案與團隊。
利用 NVIDIA 效能基準測試讓 AI 工作負載環境充分發揮效益,並且釋放 AI 基礎架構的所有潛力。
利用即時資料與端到端效能資料,判斷哪種平台的訓練速度最快,或是哪個平台可達到需要的 GPU 規模,並且瞭解所需成本。
根據專為新式生成式 AI 應用效能量身打造的端到端指標,微調及最佳化 AI 工作負載。
評估 GPU 之外的效能,包括基礎架構軟體、雲端平台與應用程式配置,全面掌握工作負載效能。
取得衡量平台效能的標準化客觀方法,瞭解特定工作負載或使用案例的預期效能。
利用經驗證的資料驅動基準測試與 NVIDIA 合作,實現最佳的每單位 TCO AI 工作負載效能。
取用 NVIDIA Cloud Accelerator 的技術說明文件。