NVIDIA Grace CPU

AI 및 HPC의 가장 큰 문제를 해결하려면 고용량 메모리와 고대역폭 메모리(HBM)가 모두 필요합니다. 4세대 NVIDIA^® NVLink^®는 NVIDIA Grace CPU와 NVIDIA GPU 사이에 초당 900기가바이트(GB/s)의 양방향 대역폭을 제공합니다. 이 연결은 단순화된 프로그래밍을 위해 시스템 및 HBM GPU 메모리를 결합하면서 캐시가 일관적인 통합 메모리 주소 공간을 제공합니다. 이러한 CPU와 GPU 간의 일관적인 고대역폭 연결은 향후 가장 복잡한 AI 및 HPC 문제를 빠르게 처리하는 데 있어 핵심 역할을 할 것입니다.

메모리 대역폭은 서버 성능에 매우 중요한 요소이며, 표준 DDR(Double Data Rate) 메모리는 전체 소켓 전력의 상당량을 소비합니다. NVIDIA Grace CPU는 ECC(Error-correcting Code) 등의 메커니즘으로 서버급 신뢰성과 함께 LPDDR5x 메모리를 활용하여 데이터센터의 요구 사항을 충족하는 최초의 서버 CPU로, 오늘날의 서버 메모리와 비교하여 2배의 메모리 대역폭과 10배 더 향상된 에너지 효율성을 제공합니다. 대규모 고성능 마지막 레벨 캐시(LLC)와 연결된 NVIDIA Grace LPDDR5x 솔루션은 차세대 워크로드의 성능을 최대화하기 위해 시스템 전력을 낮추는 동시에 대규모 모델에 필요한 대역폭을 제공합니다.

GPU의 병렬 컴퓨팅 기능이 계속하여 발전되는 와중에, CPU에서 실행되는 직렬 작업은 계속해서 워크로드를 게이팅할 수 있습니다. 효율적인 고속 CPU는 최대한의 워크로드 가속을 지원하기 위한 시스템 디자인의 필수 구성 요소입니다. NVIDIA Grace CPU는 차세대 Arm Neoverse 코어를 통합하여 전력 효율적인 디자인에 고성능을 제공함으로써 과학자와 연구원들이 프로젝트를 수행하기 더 쉽게 만들어줍니다.