雲端與資料中心解決方案

資料中心產品

加速下一波 AI 創新浪潮。

產品

NVIDIA Vera Rubin NVL72

NVIDIA Vera Rubin NVL72 整合 72 顆 NVIDIA Rubin GPU、36 顆 NVIDIA Vera CPU、NVIDIA® ConnectX®-9 SuperNIC 與 NVIDIA BlueField®-4 DPU。該技術採用第六代 NVIDIA NVLink 與 NVLink 交換器,可在機架級平台垂直擴充智慧,並透過 NVIDIA Quantum-X800 InfiniBand 與 NVIDIA Spectrum-X™ 乙太網路橫向擴充,大規模驅動 AI 產業革命。

NVIDIA Groq 3 LPX

NVIDIA Groq 3 LPX™ 是專為 NVIDIA Vera Rubin 平台打造的推論加速器,專為滿足代理系統對低延遲與大量上下文的需求而設計。NVIDIA Vera Rubin 與 LPX 透過共同設計的架構,整合 NVIDIA Rubin GPU 與 LPU 的極致效能。LPX 配備 256 個 LPU、128 GB SRAM、每秒 40 PB 的記憶體頻寬,以及每機櫃每秒 640 TB 的擴充頻寬。

NVIDIA DGX Vera Rubin NVL72

NVIDIA DGX™ Vera Rubin NVL72 為企業提供可立即部署的全包式 AI 基礎架構解決方案,搭載專為大規模部署打造的 NVIDIA Rubin 平台,加速最複雜的 AI 模型。

NVIDIA HGX Rubin NVL8

NVIDIA HGX™ 平台整合 NVIDIA GPU、NVIDIA NVLink、NVIDIA 網路的完整實力,以及全面最佳化的 AI 與高效能運算 (HPC) 軟體堆疊,提供最高的應用程式效能,並以最快的速度為每個資料中心提供深入解析。

NVIDIA DGX Rubin NVL8

NVIDIA DGX Rubin NVL8 是一款液冷式 AI 系統,採用八顆 NVIDIA Rubin GPU 和第六代 NVLink 支援,專為加速每個 AI 工作負載的訓練、推論及後期訓練而打造。

NVIDIA Vera CPU

NVIDIA Vera 專為強化學習與代理 AI 打造,可支援模型之外的程式碼、工具及資料工作流程。Vera 是 GPU 加速系統的主機 CPU,可與 NVIDIA GPU 輕鬆搭配,不僅能引導資料流向、管理記憶體,還可協調系統控制,確保 AI 流程全速執行。

NVIDIA GB300 NVL72

NVIDIA GB300 NVL72 採用機櫃級設計,連接 36 顆 NVIDIA Grace™ CPU 與 72 顆 NVIDIA Blackwell Ultra GPU,大幅提升推論、訓練及資料處理效能。GB300 NVL72 專為 AI 推理打造,具備突破性的效能,可讓大規模推理應用程式有效處理大量使用者請求。

NVIDIA GB200 NVL72

NVIDIA GB200 NVL72 採用機架規模設計,連結 36 個 NVIDIA Grace CPU 與 72 個 NVIDIA Blackwell GPU,可為生成式 AI、資料處理與高效能運算提供強大驅動力。GB200 NVL72 是一套採用液冷散熱的機櫃級解決方案,搭載由 NVIDIA Mission Control™ 驅動的 72-GPU NVLink 網域,可視為一顆超大型 GPU,為兆參數大型語言模型 (LLM) 提供高達 30 倍的推論速度。

NVIDIA RTX PRO 4500 Blackwell 伺服器版本

NVIDIA RTX PRO™ 4500 Blackwell 伺服器版本 GPU 採用革命性 NVIDIA Blackwell 架構,是一款節能的多工作負載加速器,旨在為各種企業工作負載提供突破性的效能,包括 AI 推論、資料科學與處理,以及影像與高階視覺運算。

NVIDIA RTX PRO 6000 Blackwell 伺服器版本

NVIDIA RTX PRO 6000 Blackwell 伺服器版本 GPU 結合強大的 AI 與視覺運算能力,可加速企業資料中心的各項工作負載。RTX PRO 6000 Blackwell 搭載 96GB 超高速 GDDR7 記憶體,可提供絕佳的效能與靈活性,加速各種使用案例的執行速度,包括代理 AI、物理 AI、科學運算,以及渲染、3D 繪圖運算與影片。

架構

NVIDIA Vera Rubin

NVIDIA Vera Rubin 專為新一代 AI 打造,可大幅提升代理 AI 與 AI 推理效能。Vera Rubin 藉助七款晶片的極致共同機制,提供靈活的部署選項,同時大幅降低訓練與推論 Token 成本,大幅降低 AI 部署的總成本。

NVIDIA Blackwell

NVIDIA Blackwell 正在定義生成式 AI 和加速運算的新篇章,實現卓越的效能、效率與規模。NVIDIA Blackwell 採用 6 項變革性技術,協助推動資料處理、電子設計自動化、電腦輔助工程與量子運算領域的突破。

NVIDIA MGX

NVIDIA MGX™ 是一款用於加速運算的模組化參考架構,可支援數百種 GPU、DPU、CPU、儲存與網路組合,適用於 AI、高效能運算以及 NVIDIA Omniverse™ 工作負載。

NVIDIA STX

藉由運用 NVIDIA Vera Rubin 架構、BlueField-4 與 Spectrum-X 網路技術,NVIDIA STX 參考架構為建置通用資料引擎奠定基礎,可加速完整的 AI 生命週期,涵蓋從訓練與分析到即時代理 AI 推理。

平台

NVIDIA DGX

NVIDIA DGX 平台專為企業人工智慧量身打造,將 NVIDIA 軟體、基礎架構和專業知識的長處,整合為從雲端到本機資料中心的現代統一 AI 開發解決方案。

NVIDIA HGX

NVIDIA HGX 平台整合 NVIDIA GPU、NVLink、網路技術,以及完整最佳化的 AI 與高效能運算軟體堆疊,為各類資料中心提供最高的應用程式效能與最快的洞察速度。

NVIDIA Spectrum-X 乙太網路

NVIDIA Spectrum-X 乙太網路平台為 AI 提供超高效能。它透過 Spectrum-XGS 乙太網路技術連接資料中心內部的運算網路,並可跨多座 AI 資料中心進行擴充,打造具備千兆級智慧系統的超大型 AI 超級工廠。

NVIDIA RTX PRO

全球系統合作夥伴提供的 NVIDIA RTX PRO™ 伺服器,充分運用 NVIDIA Blackwell 架構的突破性效能和能源效率,協助企業建置 AI 工廠並加速各類企業工作負載,包括代理 AI 和 LLM 推論,以及工業 AI 和數位孿生。

專為 AI 工廠打造的網路

探索專為千兆級 AI 工廠打造的全端網路架構,涵蓋從 NVIDIA Spectrum-X 乙太網路到 NVIDIA BlueField DPU 的完整解決方案。

常見問題

NVIDIA Vera Rubin 平台專為代理 AI 與推理時代而打造,經過精心設計,是大規模分步驟解決問題及超長語境工作流程的利器。 藉由消除通訊與記憶體資料傳輸中的關鍵瓶頸,此平台大幅提升推理效能,相較於 NVIDIA Blackwell 架構世代,可提供更高的每瓦 Token 產出,並降低每個 Token 的成本。

NVIDIA Vera Rubin NVL72 採用第三代 MGX NVL72 機櫃,在維持與 NVIDIA Blackwell 相同機櫃尺寸的同時,導入全新的機構設計、散熱系統及電源強化設計。

NVIDIA DGX Vera Rubin NVL72 是 NVIDIA 新一代機櫃級系統架構。此系統採用 NVIDIA Rubin 架構,結合 72 顆 NVIDIA Rubin GPU、36 顆 NVIDIA Vera CPU,以及第六代 NVLink,打造龐大的共享記憶體空間,可加速全球最複雜 AI 模型的運算。DGX Vera Rubin NVL72 同時整合 NVIDIA 最新的網路技術,配備 ConnectX-9 SuperNIC、BlueField-4 DPU,以及 Spectrum-X 乙太網路。

立即開始

準備好開始了嗎?

NVIDIA 資料中心解決方案可經由指定的 NVIDIA 合作夥伴網路 (NPN) 取得。透過我們的合作夥伴,取得最新的 NVIDIA 資料中心技術,深入探索靈活且價格合理的產品。

取得資料中心最新消息

註冊以接收 NVIDIA 的企業最新消息、公告與更多資訊。