NVIDIA DGX Cloud
NVIDIA 在雲端打造的 AI 工廠。
概覽
DGX Cloud:NVIDIA 如何打造 AI
DGX™ Cloud 是 NVIDIA 的內部雲端環境,用於建構與營運大規模 AI,以支援 NVIDIA 最具需求的內部 AI 應用場景。該技術用來開發開源尖端模型與基礎模型、驗證新的系統架構,以及執行生產環境中的 AI 工作負載。
DGX Cloud 建立在 NVIDIA 加速基礎架構之上,並在各大雲端服務供應商 (CSP) 與 NVIDIA Cloud Partners 的平台上運作。這確保在 DGX Cloud 中驗證過的軟體與營運模式,能直接應用於整個生態系統。
技術原理
NVIDIA DGX Cloud 是什麼?
DGX Cloud 也是 NVIDIA 的 AI 驗證平台。在大規模運行過程中,遇到的營運挑戰會先在 DGX Cloud 中解決,然後轉化為可重複使用的軟體、架構與參考實作。
在 DGX Cloud 中開發的軟體、營運智慧與基礎架構模式,會透過 NVIDIA Cloud Accelerator 以模組化、開放式基礎架構元件的形式對外提供。
NVIDIA Nemotron™ 是一系列在 NVIDIA DGX Cloud 上訓練與最佳化的開放式模型,展現了 NVIDIA AI 工廠的規模與可靠性,並支援在生產環境中跨數萬顆 GPU 的多節點訓練。
建構並執行領先的 AI 雲端工廠作業
NVIDIA Cloud Accelerator 軟體是一套開源、模組化且可組合設計的軟體產品組合,可協助合作夥伴以可靠、高效率與安全的方式,在大規模環境中建構並運行 AI 工廠。
DGX Cloud 上的 NVIDIA
NVIDIA AI 由 NVIDIA DGX Cloud 加速推動
NVIDIA DGX Cloud 是打造及加速 NVIDIA 關鍵任務研究與新一代模型的利器。
最新消息與部落格文章
探索由 DGX Cloud 創新所推動的最新 NVIDIA AI 發展
後續步驟
透過效能基準測試衡量真正重要的指標
使用 NVIDIA 效能基準測試,在任何 NVIDIA 基礎架構上最佳化 AI 工作負載效能。
加入 Exemplar Cloud 的行列
與 NVIDIA 合作,透過數據驅動且經驗證的基準測試,在總持有成本 (TCO) 下實現最佳 AI 工作負載效能。