NVIDIA 在雲端打造的 AI 工廠。
概覽
DGX™ Cloud 是 NVIDIA 的內部雲端環境,用於建構與營運大規模 AI,以支援 NVIDIA 最具需求的內部 AI 應用場景。該技術用來開發開源尖端模型與基礎模型、驗證新的系統架構,以及執行生產環境中的 AI 工作負載。
DGX Cloud 建立在 NVIDIA 加速基礎架構之上,並在各大雲端服務供應商 (CSP) 與 NVIDIA Cloud Partners 的平台上運作。這確保在 DGX Cloud 中驗證過的軟體與營運模式,能直接應用於整個生態系統。
DGX Cloud 也是 NVIDIA 的 AI 驗證平台。在大規模運行過程中,遇到的營運挑戰會先在 DGX Cloud 中解決,然後轉化為可重複使用的軟體、架構與參考實作。
在 DGX Cloud 中開發的軟體、營運智慧與基礎架構模式,會透過 NVIDIA Cloud Accelerator 以模組化、開放式基礎架構元件的形式對外提供。
NVIDIA Nemotron™ 是一系列在 NVIDIA DGX Cloud 上訓練與最佳化的開放式模型,展現了 NVIDIA AI 工廠的規模與可靠性,並支援在生產環境中跨數萬顆 GPU 的多節點訓練。
NVIDIA Cloud Accelerator 軟體是一套開源、模組化且可組合設計的軟體產品組合,可協助合作夥伴以可靠、高效率與安全的方式,在大規模環境中建構並運行 AI 工廠。
DGX Cloud 上的 NVIDIA
NVIDIA DGX Cloud 是打造及加速 NVIDIA 關鍵任務研究與新一代模型的利器。
最新消息與部落格文章
使用 NVIDIA 效能基準測試,在任何 NVIDIA 基礎架構上最佳化 AI 工作負載效能。
與 NVIDIA 合作,透過數據驅動且經驗證的基準測試,在總持有成本 (TCO) 下實現最佳 AI 工作負載效能。