NVIDIA Grace CPU 超級晶片

雲端與資料中心解決方案

NVIDIA CPU 平台

專為 AI 工廠打造。

簡介

新一代資料中心的驅動引擎

NVIDIA CPU 平台為新式 AI 基礎設施與 AI 工廠提供基礎。NVIDIA Vera 是專為代理 AI 與強化學習而打造,可執行工具呼叫、沙箱程式碼執行、資料流程、分析與協調,讓大型 AI 工廠保持正常運作。 NVIDIA Grace™ 將 NVIDIA 的 CPU 平台擴展至加速運算、超大規模雲端、邊緣與電信環境,共同為 AI 工廠提供 CPU 基礎。

NVIDIA Vera CPU

NVIDIA Vera 專為代理 AI 以及 AI 工廠的 CPU 密集型工作而打造,包括工具呼叫、沙箱程式碼執行、協調、分析、雲端服務與儲存。 Vera 與 NVIDIA GPU 搭配作為加速系統的主機 CPU,或在資料中心獨立執行,以確保 AI 流程正常運作。

優勢

技術突破

利用 NVIDIA NVLink-C2C 加速 CPU 與 GPU 之間的連線

NVIDIA Vera 採用第二代 NVIDIA NVLink™ Chip-to-Chip (C2C) 技術,以 1.8 TB/s 的雙向頻寬連接 CPU 與 GPU,比 PCIe Gen 6 快 7 倍,實現高效資料傳輸並降低記憶體管理複雜度。

利用 LPDDR5X 實現高效節能的 CPU 記憶體

NVIDIA CPU 使用 LPDDR5X 記憶體與錯誤修正碼,結合伺服器級的可靠性與節能的資料傳輸。在 NVIDIA Vera 中,LPDDR5X 提供高達每秒 1.2 TB 的記憶體頻寬,協助支援代理 AI、分析與協調工作負載,同時降低整個 AI 工廠基礎架構的記憶體功耗。

利用先進的 CPU 架構大幅提升效能與效率

NVIDIA Vera 採用自訂的 NVIDIA Olympus Arm® 相容 CPU 核心與第二代 NVIDIA Scalable Coherency Fabric (SCF),提供卓越的單執行緒效能、大規模資料移動,以及負載下可預測的傳輸量。 NVIDIA Grace 採用高效能、基於 Arm 的 CPU 核心與 NVIDIA SCF,為加速運算、雲端、邊緣與資料中心工作負載提供高效能。

適用於加速與 CPU 工作負載的多樣化配置

NVIDIA CPU 平台支援靈活的 AI 工廠設計,從 NVIDIA Vera Rubin 與 NVIDIA Grace Blackwell 等緊密整合的 CPU–GPU 架構,到獨立的單插槽和雙插槽 CPU 伺服器。 Vera 將平台擴展至代理 AI、強化學習、分析、協調與儲存領域,而 Grace 則為加速運算與節能運算提供經過驗證的 CPU 基礎。

產品

探索 CPU 產品陣容

NVIDIA Grace CPU

為現代資料中心實現突破性的 CPU 效能與效率。

NVIDIA Grace CPU 超級晶片

Grace CPU 超級晶片由 2 個 Grace CPU 組成,透過 NVIDIA NVLink-C2C 以每秒 900 GB 的速度緊密連結。這款晶片以單一模組整合了 144 個 Arm Neoverse V2 核心,所搭載的伺服器級 LPDDR5X 記憶體可提供每秒高達 1 TB (TB/s) 的記憶體頻寬。

NVIDIA Grace CPU C1

NVIDIA Grace CPU C1 是一款單插槽高效能伺服器平台,無論是效能或頻寬都毫不妥協。這款平台針對可擴展與邊緣平台進行最佳化,包括超大規模雲端、內容交付網路 (CDN)、儲存空間、電信公司以及其他高效能邊緣平台。


NVIDIA CPU 與 GPU

將 NVIDIA CPU 結合 GPU,適用於大規模 AI 與高效能運算應用程式。

NVIDIA GH200 Grace Hopper 超級晶片

NVIDIA Grace Hopper™ 超級晶片結合了 Grace CPU 與 Hopper GPU 架構,並透過 NVLink-C2C 建立統一的記憶體空間,以加速 AI 與 HPC 工作負載。

NVIDIA GB200 NVL4

NVIDIA GB200 NVL4 開啟了整合式 HPC 與 AI 的未來,透過四顆以 NVLink 橋接器連接的 NVIDIA Blackwell GPU,以及兩顆透過 NVLink-C2C 連接的 NVIDIA Grace CPU,帶來革命性的效能。它與採用液冷設計的 NVIDIA MGX™ 模組化伺服器相容,相較於前一代,在科學運算、科學 訓練用 AI,以及推論應用方面,效能提升達 2 倍。

資源

深入瞭解 NVIDIA CPU 平台

人工智慧工廠掀起新產業革命

瞭解 AI 工廠如何生成 Token 來協助你我創造充滿無限可能的未來,並透過人類的創新智慧與 NVIDIA 攜手加速實現。

NVIDIA Grace CPU 超級晶片

這款適用於現代資料中心的突破性 CPU,能以相同功率提供一流傳統 CPU 的 2 倍效能。

NVIDIA 執行長黃仁勳 GTC24 大會主題演講

歡迎觀看 NVIDIA 執行長黃仁勳的 GTC 大會主題演講,完整掌握所發布的最新資訊,瞭解正在形塑你我未來的 AI 技術進展。

探索更多資源

後續步驟

隨時掌握 NVIDIA 最新消息

註冊即可收到 NVIDIA 的最新消息、更新內容及其他資訊。