NVIDIA Vera CPU Rack

NVIDIA Vera CPU 機架

專為強化學習與代理 AI 而打造。

概覽

適用於 AI 工廠的機架級基礎架構

Vera CPU 機架採用 NVIDIA MGX™ 架構,為現代化 AI 工廠提供機架級 CPU 基礎架構。隨著強化學習 (RL) 與代理 AI 系統的擴充,CPU 能夠執行程式碼、工具與資料工作流程,創造實際成果。Vera 結合領先的單核心效能、海量記憶體頻寬與卓越的能源效率。Vera 結合了領先的單核效能、海量記憶體頻寬與卓越的能源效率,處理工作負載的速度比傳統 CPU 基礎架構快上 50%,且效能達其兩倍。

NVIDIA 發布為代理型 AI 而生的 Vera CPU

NVIDIA Vera CPU 為大規模資料處理、AI 訓練與代理推論實現最高效能與能源效率。

NVIDIA Vera CPU 為 AI 工廠提供卓越效能與高效率

NVIDIA Vera CPU 專為現代 AI 工作負載打造,其核心設計亮點包括極致的單核效能、高效的機櫃級共同設計等。

CPU 沙盒:
大規模執行 AI 操作

驅動 RL 與代理型 AI 的環境

RL 與代理 AI 系統依賴模型外部的軟體環境,可執行模型生成的程式碼、工具與資料運算、評估結果,並回傳回饋,然後才進行下一步。各個環境通常會在專用 CPU 核心上執行,在大規模運作時,有數千到數百萬個環境同時執行。其滿載的每核心效能會直接決定加速器繼續運作的速度。

NVIDIA Vera CPU 機架是專為大規模支援這些環境而打造的。單一水冷式機架最多可整合 256 個 Vera CPU,支援超過 22,500 個同時執行的 CPU 環境。它是專為持續的單核效能與高達 2 倍的能源效率而設計,能縮短評估週期,並讓 AI 工廠維持在峰值吞吐量運行。

NVIDIA Vera CPU

Vera 是一款專為 AI 時代設計的劃時代 CPU,提供卓越的單執行緒效能與龐大的記憶體頻寬,可滿足複雜的強化學習循環與代理型工作流程的需求。

NVIDIA MGX

NVIDIA MGX 提供模組化 AI 基礎架構,可降低開發成本,並能為現代化資料中心縮短上市時間。

NVIDIA BlueField-4

NVIDIA® BlueField®-4 DPU 可加速 AI 工廠中儲存、網路、網路安全與彈性擴充方面的資料處理速度。

NVIDIA Spectrum-X 乙太網路

NVIDIA Spectrum-X™ 乙太網路為 AI 提供高效頻寬、低延遲與效能隔離功能。Vera CPU 機架支援機架級 Spectrum-X 乙太網路,可實現更高的電源效率與韌性。

規格1

NVIDIA Vera

  NVIDIA Vera CPU 機架 NVIDIA Vera CPU
配置 256 個 Vera CPU 1 個 Vera CPU
核心 | 執行緒 22,528 個 NVIDIA Olympus 核心
45,056 個執行緒
88 個 NVIDIA Olympus 核心
176 個執行緒
記憶體容量 最高 400 TB 最高 1.5 TB
彙總頻寬 最高 315 TB/s 最高 1.2 TB/s
N/S 網路 NVIDIA BlueField-4 DPU N/A
冷卻 水冷式 N/A

1. 初步資訊。所有數值均為最大值且可能有所變更。

  NVIDIA Vera CPU 機架 NVIDIA Vera CPU
配置 256 個 Vera CPU 1 個 Vera CPU
核心 | 執行緒 22,528 個 NVIDIA Olympus 核心
45,056 執行緒
88 個 NVIDIA Olympus 核心
176 個執行緒
記憶體容量 最高 400 TB 最高 1.5 TB
彙總頻寬 最高 315 TB/s 最高 1.2 TB/s
N/S 網路 NVIDIA BlueField-4 DPU N/A
冷卻 水冷式 N/A

合作夥伴

認識我們的合作夥伴

開始使用

隨時掌握 NVIDIA 最新消息

訂閱以接收 NVIDIA 的最新消息與更新。