NVIDIA Vera CPU Rack
강화 학습 및 에이전틱 AI를 위해 특별히 설계되었습니다.
개요
AI 팩토리를 위한 랙 스케일 인프라
NVIDIA MGX™를 기반으로 구축된 Vera CPU Rack은 최신 AI 팩토리를 위한 랙 스케일 CPU 인프라를 제공합니다. 강화 학습(RL) 및 에이전틱 AI 시스템이 확장됨에 따라, CPU는 결과를 주도하는 코드, 도구 및 데이터 워크플로우를 실행합니다. Vera는 업계 최고 수준의 코어당 성능, 초대형 메모리 대역폭, 그리고 탁월한 에너지 효율을 결합하여, 기존 CPU 인프라 대비 2배 높은 효율로 최대 50% 더 빠르게 워크로드를 처리합니다.
CPU 샌드박스:
대규모 AI 동작 실행
RL 및 에이전틱 AI를 구동하는 환경
RL 및 에이전틱 AI 시스템은 모델 생성 코드, 도구 및 데이터 작업을 실행하고 결과를 평가하며 다음 단계가 진행되기 전에 피드백을 반환하는 모델 외부의 소프트웨어 환경에 의존합니다. 각 환경은 일반적으로 전용 CPU 코어에서 실행되며, 대규모의 경우 수천 개에서 수백만 개가 병렬로 운영됩니다. 풀 로드 시의 코어당 성능은 가속기가 얼마나 빠르게 계속 작동할 수 있는지 직접 결정합니다.
NVIDIA Vera CPU 랙은 이러한 대규모 환경을 지원하기 위해 특별히 설계되었습니다. 단일 액체 냉각 랙은 최대 256개의 Vera CPU를 통합하여 22,500개 이상의 동시 CPU 환경을 지원합니다. 지속적인 코어당 성능과 최대 2배 향상된 에너지 효율을 바탕으로 평가 주기를 단축하고, AI 팩토리가 최대 처리량으로 운영될 수 있도록 설계되었습니다.
사양1
NVIDIA Vera
| NVIDIA Vera CPU Rack | NVIDIA Vera CPU | |
|---|---|---|
| 구성 | 256 Vera CPU | 1 Vera CPU |
| 코어 | 스레드 | 22,528 NVIDIA Olympus 코어 45,056 스레드 |
88 NVIDIA Olympus 코어 176 스레드 |
| 메모리 용량 | 최대 400 TB | 최대 1.5TB |
| 집계 대역폭 | 최대 315TB/s | 최대 1.2TB/s |
| N/S 네트워킹 | NVIDIA BlueField-4 DPU | 해당 없음 |
| 냉각 | 액체 냉각 | 해당 없음 |
1. 예비 정보. 모든 값은 최대 값이며 변경될 수 있습니다.
파트너
파트너를 만나보세요
시작하기
NVIDIA 뉴스레터 구독하기
NVIDIA 뉴스레터를 구독하고 최신 뉴스와 다양한 업데이트를 받으세요.