NVIDIA H100 Tensor 코어 GPU

예상 성능은 변경될 수 있습니다. 3D FFT(4K^3) 처리량 | A100 클러스터: HDR IB 네트워크 | H100 클러스터: NVLink Switch 시스템, NDR IB | 유전체 서열 분석(Smith-Waterman) | A100 1개 | H100 1개

NVIDIA 데이터센터 플랫폼은 무어의 법칙을 뛰어넘는 성능 향상을 지속적으로 제공합니다. 또한 H100의 획기적인 AI 기능은 HPC+AI의 성능을 더욱 강화하여 세계에서 가장 중요한 과제를 해결하기 위해 노력하는 과학자와 연구원의 발견 시간을 단축할 수 있도록 지원합니다.

H100은 배정밀도 Tensor 코어의 부동 소수점 연산(FLOPS)을 3배로 증가시켜 HPC에 60테라플롭스의 FP64 컴퓨팅을 제공합니다. 또한 AI 융합 HPC 애플리케이션은 H1000의 TF32 정밀도를 활용하여 코드 변경 없이 단정밀도 행렬 곱셈 연산에 대해 1페타플롭의 처리량을 달성할 수 있습니다.

H100은 DNA 서열 정렬을 위한 Smith-Waterman, 단백질 구조 예측을 위한 단백질 정렬과 같은 동적 프로그래밍 알고리즘에서 A100 대비 7배, CPU 대비 40배 빠른 속도를 제공하는 새로운 DPX 명령도 제공합니다.

DPX 설명 비교(NVIDIA HGX™ H100 4-GPU 및 듀얼 소켓 32코어 IceLake)

IT 관리자는 데이터센터의 컴퓨팅 리소스 활용률(최대 및 평균)을 극대화하려고 합니다. 이들은 사용 중인 워크로드에 적합한 리소스 규모를 조정하기 위해 컴퓨팅의 동적 재구성을 자주 채택합니다.

인프라 관리자는 MIG가 탑재된 H100을 통해 GPU 가속 인프라를 표준화하는 동시에 GPU 리소스를 보다 정밀하게 프로비저닝하여 개발자에게 적절한 수준의 가속 컴퓨팅을 안전하게 제공하고 모든 GPU 리소스 사용을 최적화할 있는 유연성을 제공합니다.

Hopper Tensor Core GPU는 테라바이트급 가속 컴퓨팅을 위해 특별히 설계되었으며, 대규모 모델 AI 및 HPC에서 10배 더 높은 성능을 제공하는 NVIDIA Grace Hopper CPU+GPU 아키텍처를 지원할 예정입니다. NVIDIA Grace CPU는 Arm® 아키텍처의 유연성을 활용하여 처음부터 가속 컴퓨팅을 위해 설계된 CPU 및 서버 아키텍처를 생성합니다. Hopper GPU는 NVIDIA의 초고속 칩 간 상호 연결을 사용하여 Grace CPU와 페어링되며 PCIe Gen5보다 7배 빠른 900GB/s의 대역폭을 제공합니다. 이 혁신적인 설계는 오늘날 가장 빠른 서버들과 비교할 때 GPU에 대해 최대 30배 높은 전체 시스템 메모리 대역폭을 제공하며, 테라바이트 규모의 데이터를 실행하는 애플리케이션에 최대 10배 높은 성능을 제공합니다.