使用 NVIDIA DGX Cloud 的方法

NVIDIA DGX Cloud 是一款適用於各大主流雲端服務的一體化 AI 平台，可讓您利用一系列的軟體、服務及 AI 專門知識來實現最佳化效能，以因應不斷變化的工作負載。NVIDIA 會對 DGX Cloud 平台的每一層進行最佳化與管理，以確保能在雲端環境中提供 NVIDIA 的最高效能。在 NVIDIA DGX Cloud 的一系列完全託管平台與服務的助力之下，各種類型的組織都能在代理型 AI 與實體 AI 的時代中，將 AI 工作負載從開發階段推向部署應用。NVIDIA DGX Cloud 平台包含：NVIDIA NeMo™ Curator on DGX Cloud、DGX Cloud Create 平台、DGX Cloud 無伺服器推論、DGX Cloud Lepton 平台以及 DGX Cloud 基準測試。

• NVIDIA DGX Cloud Create 平台適用於各大主流雲端環境，可讓您用來對具有彈性期限的大規模叢集進行預先訓練與微調。
• NVIDIA DGX Cloud 無伺服器推論可用於執行生產級推論，並可提供自動擴展功能、符合成本效益的 GPU 利用率以及多雲端靈活性。
• NVIDIA DGX Cloud Lepton 平台可用於在多個 GPU 雲端環境中開發及部署 AI 工作負載；此外，還能利用內建的市集來尋找及購買運算資源。
• NVIDIA DGX Cloud 基準測試可提供一系列的工具與方法，可用來對不斷變化的 AI 工作負載進行最佳化，此外還有適用於特定工作負載的效能方法，可協助您徹底提升 AI 基礎架構的效能。
• NVIDIA NeMo Curator on DGX Cloud 則可用來執行大規模影片管理。

NVIDIA NIM™ 提供預先建置的最佳化推論微服務，能將最新 AI 基礎模型安全穩定部署在任何 NVIDIA 加速的基礎架構，包括雲端、資料中心和工作站。 您可以在 build.nvidia.com 上體驗 NVIDIA NIM

build.nvidia.com 是一個以 NVIDIA DGX Cloud 平台加速的模型目錄，內含可透過 API 使用的 NVIDIA NIM 微服務，並提供了一個可讓開發人員試用最新軟體與模型的環境。