專為強化學習與代理 AI 而打造。
概覽
Vera CPU 機架採用 NVIDIA MGX™ 架構,為現代化 AI 工廠提供機架級 CPU 基礎架構。隨著強化學習 (RL) 與代理 AI 系統的擴充,CPU 能夠執行程式碼、工具與資料工作流程,創造實際成果。Vera 結合領先的單核心效能、海量記憶體頻寬與卓越的能源效率。Vera 結合了領先的單核效能、海量記憶體頻寬與卓越的能源效率,處理工作負載的速度比傳統 CPU 基礎架構快上 50%,且效能達其兩倍。
RL 與代理 AI 系統依賴模型外部的軟體環境,可執行模型生成的程式碼、工具與資料運算、評估結果,並回傳回饋,然後才進行下一步。各個環境通常會在專用 CPU 核心上執行,在大規模運作時,有數千到數百萬個環境同時執行。其滿載的每核心效能會直接決定加速器繼續運作的速度。
NVIDIA Vera CPU 機架是專為大規模支援這些環境而打造的。單一水冷式機架最多可整合 256 個 Vera CPU,支援超過 22,500 個同時執行的 CPU 環境。它是專為持續的單核效能與高達 2 倍的能源效率而設計,能縮短評估週期,並讓 AI 工廠維持在峰值吞吐量運行。
規格1
| NVIDIA Vera CPU 機架 | NVIDIA Vera CPU | |
|---|---|---|
| 配置 | 256 個 Vera CPU | 1 個 Vera CPU |
| 核心 | 執行緒 | 22,528 個 NVIDIA Olympus 核心 45,056 個執行緒 |
88 個 NVIDIA Olympus 核心 176 個執行緒 |
| 記憶體容量 | 最高 400 TB | 最高 1.5 TB |
| 彙總頻寬 | 最高 315 TB/s | 最高 1.2 TB/s |
| N/S 網路 | NVIDIA BlueField-4 DPU | N/A |
| 冷卻 | 水冷式 | N/A |
1. 初步資訊。所有數值均為最大值且可能有所變更。
合作夥伴
開始使用
訂閱以接收 NVIDIA 的最新消息與更新。