NVIDIA Grace CPU

가장 복잡한 AI와 HPC 문제를 해결하려면 대용량 및 고대역폭 메모리(HBM)가 필요합니다. NVIDIA NVLink-C2C는 NVIDIA Grace CPU와 NVIDIA GPU 사이에 900GB/s의 양방향 대역폭을 제공합니다. 이 연결은 단순한 프로그래밍을 위해 시스템과 HBM GPU 메모리를 통합한 캐시 일관성 메모리 주소 공간을 제공합니다. CPU와 GPU 간의 일관된 고대역폭 연결은 미래의 가장 복잡한 문제를 빠르게 해결하는 핵심 요소입니다.

NVIDIA Grace는 서버용 CPU 중 최초로 오류 보정 코드(ECC)와 같은 메커니즘을 통해 서버급 안정성을 갖춘 LPDDR5X 메모리를 활용하여 데이터센터의 요구 사항을 충족하는 동시에 오늘날의 서버 메모리에 비해 2배의 메모리 대역폭과 최대 10배 향상된 에너지 효율성을 제공합니다. NVIDIA Grace LPDDR5X 솔루션은 대규모, 고성능, 최종 수준 캐시와 결합하여 대규모 모델에 필요한 대역폭을 제공하는 동시에 시스템 전력을 절감하여 차세대 워크로드의 성능을 극대화합니다.

GPU의 병렬 컴퓨팅 기능은 계속 발전하고 있지만, 여전히 CPU에서 실행되는 직렬 작업으로 워크로드를 제어할 수 있습니다. 빠르고 효율적인 CPU는 워크로드 가속화를 극대화하는 시스템 설계의 중요한 구성 요소입니다. NVIDIA Grace CPU는 Arm Neoverse V2 코어를 NVIDIA 지정 Scalable Coherency Fabric과 통합하여 전력 효율적 설계로 높은 성능을 제공하므로, 과학자와 연구원은 일생의 과업을 더 쉽게 수행할 수 있습니다.

생성형 AI는 메모리와 컴퓨팅 집약적입니다. NVIDIA GB200 슈퍼칩은 380GB의 HBM 메모리를 사용하여 NVIDIA H100 Tensor 코어 GPU 대비 4.5배 이상의 GPU 메모리 대역폭을 제공합니다. Grace Blackwell의 고대역폭 메모리는 NVLink-C2C를 통해 CPU 메모리에 연결되어 GPU에 거의 860GB의 고속 액세스 메모리를 제공하고 세계에서 가장 복잡한 생성형 AI 및 가속 컴퓨팅 워크로드를 처리하는 데 필요한 메모리 용량과 대역폭을 제공합니다.