NVIDIA DSX 平台

NVIDIA DSX 平台

NVIDIA DSX™ 統合了設計、模擬、營運與生態系技術,協助以最低 token 成本建置最佳化的 AI 工廠。

概覽

以最低 token 成本共同設計高效韌性 AI 工廠的平台

NVIDIA DSX 定義了在完整堆疊設計、建置及最佳化的 AI 工廠的方式,範圍涵蓋電網、設施及晶片,以及基礎設施軟體與合作夥伴技術,讓可用電力與基礎設施產出更多實用的 AI 輸出。

DSX 結合開放式軟體函式庫、工作流程指南與參考設計,以及 NVIDIA 運算平台和共同設計的 OEM 基礎設施,建構出廣泛的軟硬體解決方案生態系。

NVIDIA DSX 為基礎設施建置者提供打造 AI 工廠的完整指南

NVIDIA DSX 平台專為 AI 工廠設計,統合了設計、模擬與營運,可將整個基礎設施堆疊的效能最佳化並降低成本。

NVIDIA DSX OS 提供大規模營運 AI 工廠專用的開放式模組化軟體

瞭解 DSX OS 如何統籌運算、電源、冷卻與營運,以更高效的方式執行 AI 工廠。

計畫權益

NVIDIA DSX 如何提升 AI 工廠效能與每瓦 Token 數量

NVIDIA DSX AI 工廠是以統合方式共同設計的產品,針對最低 token 成本與能源效率最佳化。

縮短獲得第一個 token 的時間

透過參考設計、部署前瓶頸偵測與預防、模擬驗證,以及預先測試的軟體堆疊,加速啟動過過程。

將每瓦效能最大化

透過單一架構協調基礎設施、電力、冷卻與系統行為,提升能源效率與每瓦效能。

提高營運彈性

在真實生產環境,包括硬體故障、電網事件、營運變化以及持續的大規模工作負載,提高 AI 工廠營運穩定性。

保障 AI 工廠規模的 AI 安全性

透過 NVIDIA 機密運算與 NVIDIA DOCA™ 微服務提供端到端整合式加速安全機制,支援 AI 工廠。

技術

AI 工廠專用的 DSX 平台技術

NVIDIA DSX 這款平台涵蓋的多項技術,不僅支援合作夥伴協同開發,還可供擴充建置之用,將 AI 工廠的每瓦 Token 產量最大化。

代表 AI 工廠營運的全球網路地圖

以經驗證的 AI 雲端基礎架構軟體大規模運作

NVIDIA AI 雲端就緒驗證計畫,評估全 AI 雲端之網路、運算、協調與 AI 平台層的基礎設施軟體。

800 VDC 架構

為什麼擴充 AI 運算效能需要全新的電力架構

探索 NVIDIA 800 VDC 架構能如何降低電力轉換階段、配電損耗與基礎設施複雜度,支援未來的兆瓦級 AI 系統。

資源

NVIDIA DSX 生態系的最新消息

後續步驟

開始使用 NVIDIA DSX 建置

利用 NVIDIA 參考架構、模擬工具與生態系軟體,設計並最佳化 AI 工廠。

AI 工廠 DSX 基礎設施

探索經驗證符合 NVIDIA AI 工廠應用功能需求的產品。

NVIDIA DSX AI 工廠平台常見問題

NVIDIA DSX 是 NVIDIA 的 AI 工廠級平台。它結合設計、模擬、營運與生態系技術,協助合作夥伴以最低 token 成本打造最佳化的 AI 工廠。DSX 涵蓋晶片與系統、基礎設施軟體、設施與合作夥伴技術,讓 AI 工廠得以每瓦產出更多 Token。

它包括下列技術:DSX 參考設計、DSX Sim、DSX MaxLPS、DSX Flex、DSX Exchange 與 DSX OS。

AI 工廠是專為 AI 工作負載而生,著重推論效能、能源效率與最低 token 成本。NVIDIA DSX AI 工廠是共同設計的統合式系統,涵蓋晶片、系統、網路、基礎設施軟體、電力、冷卻與營運,有別於通常以孤立元件拼湊而成的傳統資料中心。

傳統資料中心主要用於儲存、處理、檢索及交付資訊。AI 工廠會生成智慧,將資料與能源轉化為 Token、預測結果、模擬與採用 AI 技術的輸出結果。

NVIDIA Omniverse™ DSX Blueprint 是 DSX Sim 內的全方位開放式框架,用於設計及運營大規模 AI 工廠。它已在 build.nvidia.com 正式上線,並與 NVIDIA Vera Rubin DSX AI 工廠參考設計完全相容。

該藍圖提供範例與基礎構件,協助開發人員打造符合物理原理的 AI 工廠數位孿生、模擬物理與邏輯行為,並在施工或部署開始前將效能最佳化。它包含完整的 AI 工廠數位孿生、NVIDIA SimReady 資產、硬體配置、預先建置的 Web UI、範例指令碼、工作流程指南,以及 NVIDIA CUDA-X™ 與 Omniverse 核心技術。

NVIDIA DSX 服務的對象是廣泛的跨領域生態系:NVIDIA 雲端合作夥伴 (NCP)、主權雲,以及土地/電力/廠房外殼 (LPS) 提供者;電力與冷卻設備製造商;設計、模擬與設施營運的獨立軟體供應商 (ISV);原始設備製造商 (OEM) 與系統整合商;建築、工程與營建公司;以及提供 IaaS 與 PaaS 解決方案的基礎設施 ISV。

DSX 提供通用設計標準,因此無論是冷卻液分配器 (CDU) 製造商或 ISV,無須量身打造的整合,即可為打造 AI 工廠貢獻一己之力。

NVIDIA DSX 讓 AI 工廠能以相同的電力、基礎設施與營運預算,產出更多 token,有助於降低 token 成本。DSX 並非將運算、冷卻、電力與營運視為個別系統,而是將它們視為整合式 AI 工廠。

DSX MaxLPS 有助於釋放擱置電力,讓客戶以相同的百萬瓦電力預算,多配置高達 40% 的 GPU。DSX OS 將機群規模營運最佳化,延長正常運作時間。DSX 參考設計可加速部署,而 DSX Exchange 與 DSX Sim 則協助統合設施、電力、冷卻與運算訊號,進而提高傳輸量、效率與每瓦 Token 數量。

閱讀 NVIDIA DSX 說明文件,開始探索建置 AI 工廠的參考設計、軟體元件與合作夥伴整合途徑。這些文件為設計、最佳化及營運 DSX 相容的基礎設施提供技術指引。