NVIDIA Grace CPU

세계 최대 규모의 컴퓨팅 문제를 해결하기 위해 특별히 제작되었습니다.

최대 규모의 AI, HPC, 클라우드 및 하이퍼스케일 워크로드 가속화

AI 모델은 수천억 개의 매개변수로 대화형 AI를 개선하고, 수십 테라바이트의 데이터를 포함하는 딥 추천 시스템을 향상하고, 새로운 과학적 발견을 가능하게 함에 따라 그 복잡성과 크기가 폭발적으로 증가하고 있습니다. 이러한 방대한 모델은 오늘날의 시스템이 지닌 한계를 뛰어넘습니다. 정확성과 유용성을 위한 확장을 계속하려면 대용량 메모리 풀에 빠르게 액세스하고 CPU와 GPU가 긴밀하게 연결될 수 있어야 합니다.

NVIDIA Grace 및 Grace Hopper 채택을 가속화하는 최고의 글로벌 시스템 제조 업체

제품

NVIDIA Grace Hopper 슈퍼칩

NVIDIA Grace Hopper 슈퍼칩은 NVIDIA® NVLink-C2C를 사용하는 Grace 및 Hopper 아키텍처를 결합하여 가속 AI 및 고성능 컴퓨팅(HPC) 애플리케이션을 위한 CPU+GPU 일관성 메모리 모델을 제공합니다.

  • 대규모 AI 및 HPC를 위해 설계된 CPU+GPU
  • PCIe Gen 5보다 7배 빠른 900GB/s의 새롭고 일관된 인터페이스
  • DGX A100에 비해 총합 30배 더 높은 시스템 메모리의 GPU 대역폭
  • NVIDIA HPC, NVIDIA AI, NVIDIA Omniverse를 포함한 모든 NVIDIA 소프트웨어 스택 및 플랫폼 실행
NVIDIA Grace Hopper Superchip
NVIDIA Grace CPU 슈퍼칩

NVIDIA Grace CPU 슈퍼칩

NVIDIA Grace CPU 슈퍼칩 CPU는 NVLink-C2C 기술을 사용하여 144 Arm® v9 코어와 1TB/s 메모리 대역폭을 제공합니다.

  • HPC 및 클라우드 컴퓨팅을 위한 고성능 CPU
  • 최대 144개의 Arm v9 CPU 코어를 탑재한 슈퍼칩 설계
  • 세계 최초로 ECC 메모리를 사용하는 LPDDR5x, 1TB/s의 총 대역폭
  • SPECrate®2017_int_base 740 이상(추정)
  • PCIe Gen 5보다 7배 빠른 900GB/s의 일관된 인터페이스
  • DIMM 기반 솔루션의 패키징 밀도 2배
  • 가장 최신 CPU의 와트당 2배 성능
  • NVIDIA RTX, HPC, NVIDIA AI, NVIDIA Omniverse를 포함한 모든 NVIDIA 소프트웨어 스택 및 플랫폼 실행

최신 데이터센터 워크로드를 위한 NVIDIA Grace 레퍼런스 디자인

디지털 트윈, 클라우드 그래픽 및 게이밍, AI, 고성능 컴퓨팅을 위한 시스템 설계를 발표합니다.

CGX-Cloud Graphics & Gaming

CGX

클라우드 그래픽 및 게임

Grace CPU 슈퍼칩
A16
BlueField-3

OVX-Digital Twins & Omniverse

OVX

디지털 트윈 & Omniverse

Grace CPU 슈퍼칩
NVIDIA GPUs
BlueField-3

HGX-HPC

HGX

HPC

Grace CPU 슈퍼칩
BlueField-3
OEM 정의 IO

HGX-AI Training, Inference & HPC

HGX

AI 트레이닝, 추론 & HPC

Grace Hopper 슈퍼칩
BlueField-3
OEM 정의 IO / 4세대 NVLink

복잡한 문제를 해결하도록 설계되었습니다

NVIDIA Grace CPU는 Arm® 아키텍처의 유연성을 활용하여 처음부터 가속화 컴퓨팅을 위해 설계된 CPU 및 서버 아키텍처를 생성합니다. 이 혁신적인 설계는 오늘날 가장 빠른 편인 서버들에 비해 최대 30배 높은 전체 대역폭과 테라바이트 규모의 데이터를 실행하는 애플리케이션에 대한 최대 10배 높은 성능을 제공합니다. NVIDIA Grace는 과학자와 연구원이 가장 복잡한 문제를 해결하기 위해 세계 최대 규모의 모델을 훈련할 수 있도록 설계되었습니다.

최신 기술 혁신

4세대 NVIDIA NVLink-C2C

최대 규모의 AI 및 HPC 문제를 해결하려면 높은 용량과 고대역폭 메모리(HBM)가 모두 필요합니다. 4세대 NVIDIA NVLink-C2C는 NVIDIA Grace CPU와 NVIDIA GPU 간에 900GB/s의 양방향 대역폭을 제공합니다. 이 연결이 제공하는 캐시 일관성 있는 통합 메모리 주소 공간은 시스템과 HBM GPU 메모리를 결합하여 프로그래밍 기능을 단순화합니다. CPU와 GPU 간의 일관된 고대역폭 연결은 미래의 가장 복잡한 AI 및 HPC 문제를 가속화하기 위해 반드시 필요합니다.

ECC와 LPDDR5x를 함께 사용하는 새로운 고대역폭 메모리의 하위 시스템

메모리 대역폭은 서버 성능에서 매우 중요한 요소이며, 표준 DDR(Double Data Rate) 메모리는 전체 소켓 전력의 상당 부분을 소모합니다. NVIDIA Grace CPU는 서버용 CPU 중 최초로 오류 보정 코드(ECC)와 같은 메커니즘을 통해 서버급 안정성을 갖춘 LPDDR5x 메모리를 활용하여 데이터센터의 요구 사항을 충족하는 동시에 오늘날의 서버 메모리에 비해 2배의 메모리 대역폭과 최대 10배 향상된 에너지 효율성을 제공합니다. NVIDIA Grace LPDDR5x 솔루션은 대규모, 고성능, 최종 수준 캐시와 결합하여 대규모 모델에 필요한 대역폭을 제공하는 동시에 시스템 전력을 절감하여 차세대 워크로드의 성능을 극대화합니다.

차세대 Arm v9 코어

GPU의 병렬 컴퓨팅 기능은 계속 발전하고 있지만, 여전히 CPU에서 실행되는 직렬 작업으로 워크로드를 제어할 수 있습니다. 빠르고 효율적인 CPU는 워크로드 가속화를 극대화하는 시스템 설계의 중요한 구성 요소입니다. NVIDIA Grace CPU는 차세대 Arm v9 코어를 통합하여 전력 효율적 설계로 높은 성능을 제공하므로, 과학자와 연구원은 일생의 과업을 더 쉽게 수행할 수 있습니다.

파트너

Asus
Atos logo
DELL logo
Fii logo
Gigabyte logo
H3c logo
Hewlett Packard Enterprise Logo
Inspur logo
Lenovo logo
Nettrix logo
Quanta-cloud
Supermicro
Wiwynn-logo
xfusion-logo

NVIDIA Grace 및 Grace Hopper 채택을 가속화하는 최고의 글로벌 시스템 제조 업체