NVIDIA HGX AI 슈퍼컴퓨터

AI, 복잡한 시뮬레이션 및 대규모 데이터 세트에는 매우 빠른 상호 연결과 완전히 가속화된 소프트웨어 스택을 갖춘 여러 개의 GPU가 필요합니다. NVIDIA HGX™ AI 슈퍼컴퓨팅 플랫폼은 NVIDIA GPU, NVLink®, NVIDIA 네트워킹, 완벽하게 최적화된 AI 및 고성능 컴퓨팅(HPC) 소프트웨어 스택의 모든 기능을 결합하여 최고의 애플리케이션 성능을 제공하고 통찰력을 얻는 시간을 단축합니다.

NVIDIA HGX H200은 H200 Tensor 코어 GPU를 고속 인터커넥트와 결합하여 세계에서 가장 강력한 확장 서버를 구축합니다. 최대 8개의 GPU로 구성되어 최대 1.1테라바이트(TB)의 GPU 메모리와 초당 38테라바이트(TB/s)의 총 메모리 대역폭으로 전례 없는 가속화를 제공합니다. 이는 놀라운 32페타플롭스 성능과 결합되어 세계에서 가장 강력한 AI 및 HPC용 가속 확장 서버 플랫폼을 구성합니다.

HGX H200과 HGX H100 모두 최대 초당 400기가비트(Gb/s) 속도의 고급 네트워킹 옵션이 포함되어 있으며, 최고의 AI 성능을 위해 NVIDIA 퀀텀-2 인피니밴드 및 Spectrum™-X 이더넷을 활용합니다. 또한 H200 및 HGX H100에는 하이퍼스케일 AI 클라우드에서 클라우드 네트워킹, 컴포저블 스토리지, 제로 트러스트 보안 및 GPU 컴퓨팅 탄력성을 지원하는 NVIDIA® BlueField®-3 데이터 처리 장치(DPU)가 포함되어 있습니다.

데이터센터는 컴퓨팅의 새로운 단위이며 네트워킹은 전체 데이터센터에서 애플리케이션 성능을 확장하는 데 중요한 역할을 합니다. NVIDIA Quantum InfiniBand와 결합된 HGX는 컴퓨팅 리소스의 완전한 활용을 보장하는 세계적 수준의 성능과 효율성을 제공합니다.

이더넷을 배포하는 AI 클라우드 데이터센터의 경우 HGX는 400Gb/s 이더넷을 통해 최고의 AI 성능을 구현하는 NVIDIA Spectrum-X 네트워킹 플랫폼과 함께 사용하는 것이 가장 좋습니다. NVIDIA Spectrum™-4 스위치 및 BlueField-3 DPU를 갖춘 Spectrum-X는 최적의 리소스 활용 및 성능의 격리를 통해 모든 규모의 수천 개 동시 AI 작업에 대해 일관적이고 예측 가능한 결과를 제공합니다. Spectrum-X는 고급 클라우드 멀티 테넌시 및 제로 트러스트 보안을 지원합니다. NVIDIA는 NVIDIA Spectrum-X의 레퍼런스 디자인으로 NVIDIA HGX™ H100 8GPU 플랫폼, BlueField-3 DPU 및 Spectrum-4 스위치 기반의 Dell PowerEdge XE9680 서버로 구축된 하이퍼스케일 생성형 AI 슈퍼컴퓨터인 Israel-1을 디자인했습니다.

NVIDIA HGX는 4개 또는 8개의 H200 또는 H100 GPU 또는 4개나 8개의 A100 GPU가 있는 단일 베이스보드에서 사용할 수 있습니다. 이러한 하드웨어와 소프트웨어의 강력한 조합은 전례 없는 AI 슈퍼컴퓨팅 플랫폼 성능의 토대가 됩니다.