NVIDIA Tensor 코어

AI 모델은 대화형 AI와 같은 차세대 도전 과제를 수행함에 따라 복잡성이 폭발적으로 커지고 있습니다. 방대한 모델을 FP32로 트레이닝하려면 몇 주에서 몇 달까지 걸릴 수 있습니다. NVIDIA Tensor 코어는 트랜스포머 엔진, TF32(Tensor Float 32) 및 FP16(16비트 부동 소수점)에서 FP8과 같은 감소된 정밀도에 대해 한 차원 높은 성능을 제공합니다. 또한 CUDA-X^™ 라이브러리를 통한 기본 프레임워크의 직접적인 지원 덕분에 구현이 자동으로 이루어져 정확도를 유지하면서 트레이닝에서 컨버전스까지의 시간을 크게 단축할 수 있습니다.

NVIDIA는 Tensor 코어를 통해 MLPerf 산업 전반의 트레이닝용 벤치마크를 획득했습니다.

뛰어난 AI 추론 가속기는 탁월한 성능뿐만 아니라 다양한 뉴럴 네트워크를 가속하는 다용성과 개발자가 새 네트워크를 구축할 수 있는 프로그래밍 가능성을 제공할 수 있어야 합니다. 높은 수준의 처리량을 짧은 지연 시간으로 처리함과 동시에 활용률을 극대화하는 것이 추론을 안정적으로 배포하는 데 있어서 가장 중요한 성능 요구 사항입니다. NVIDIA Tensor 코어는 TF32, bfloat16, FP16, FP8, INT8과 같은 전체 범위 정밀도를 제공하므로 그 다용성과 성능이 타의 추종을 불허합니다. 

NVIDIA는 Tensor 코어를 통해 MLPerf 산업 전반의 추론용 벤치마크를 획득했습니다.

HPC는 현대 과학을 지탱하는 핵심 기반입니다. 차세대 발견을 앞당기기 위해 과학자들은 신약 개발을 위한 복합분자, 잠재적인 에너지원을 위한 물리학, 극한의 기후 패턴을 더 효율적으로 예측하고 대비하기 위한 대기 데이터를 더 잘 이해하기 위해 시뮬레이션을 사용합니다. NVIDIA Tensor 코어는 FP64를 포함하는 전체 범위의 정밀도를 제공하여, 작업에 요구되는 최고 정확도로 과학 컴퓨팅을 가속합니다.

HPC SDK는 NVIDIA 플랫폼용 HPC 애플리케이션 개발을 위한 필수 컴파일러, 라이브러리, 도구를 제공합니다.