AI Center of Excellence의 기반입니다.
NVIDIA DGX™ B200은 AI 여정의 모든 단계에서 모든 규모의 기업을 위한 개발-배포 파이프라인을 위한 통합 AI 플랫폼입니다. 5세대 NVIDIA® NVLink®로 상호 연결된 8개의 NVIDIA Blackwell GPU가 탑재된 DGX B200은 이전 세대 대비 3배의 트레이닝 성능과 15배의 추론 성능을 제공하는 최첨단 성능을 제공합니다. NVIDIA Blackwell GPU 아키텍처를 활용하는 DGX B200은 거대 언어 모델, 추천 시스템, 챗봇 등 다양한 워크로드를 처리할 수 있어 AI 혁신을 가속화하려는 기업에게 이상적입니다.
DGX B200을 통해 기업이 데이터 준비부터 훈련, 추론에 이르는 모든 AI 워크로드를 가속화하는 방법을 알아보세요.
NVIDIA DGX 플랫폼과 NVIDIA NeMo™를 통해 어떻게 선도적인 기업의 역량을 강화했는지 읽어보세요.
이점
엔터프라이즈는 훈련에서 미세 조정, 추론에 이르는 AI 파이프라인의 모든 단계에서 복잡한 AI 데이터세트를 처리하기 위해 막대한 컴퓨팅 성능을 필요로합니다. NVIDIA DGX B200을 통해 엔터프라이즈는 워크플로우를 가속화하도록 구축된 단일 플랫폼으로 개발자를 무장할 수 있습니다.
컴퓨팅 분야에서 NVIDIA Blackwell 아키텍처의 발전을 기반으로 하는 DGX B200은 DGX H100 대비 3배의 훈련 성능과 15배의 추론 성능을 제공합니다. NVIDIA DGX BasePOD™ 및 NVIDIA DGX SuperPOD™의 기반인 DGX B200은 모든 워크로드에 최첨단 성능을 제공합니다.
DGX B200은 완전히 최적화된 하드웨어 및 소프트웨어 플랫폼으로, NVIDIA Base Command 및 NVIDIA AI Enterprise 소프트웨어, 풍부한 타사 지원 에코시스템, NVIDIA 전문 서비스의 전문가 조언을 포함한 완전한 NVIDIA AI 소프트웨어 스택이 포함되어 있습니다.
성능
예상 성능은 변경될 수 있습니다. 토큰 간 지연 시간(TTL) = 실시간 50ms, 첫 토큰 지연 시간(FTL) = 5초, 입력 시퀀스 길이 = 32,768, 출력 시퀀스 길이 = 1,028, 8x 8방향 DGX H100 GPU 공냉식 대 1x 8방향 DGX B200 공냉식, GPU당 성능 비교입니다.
예상 성능은 변경될 수 있습니다. 32,768개의 GPU 규모, 4,096배 8방향 DGX H100 공랭식 클러스터: 400G IB 네트워크, 4,096x 8방향 DGX B200 공랭식 클러스터: 400G IB 네트워크.
사양
리소스
선도적인 기업들은 DGX B200이 포함된 NVIDIA DGX SuperPOD™를 통해 NVIDIA의 AI 전문성이 뒷받침되는 대규모 턴키 인프라를 구축할 수 있습니다.
NVIDIA 엔터프라이즈 서비스는 DGX 인프라에 대한 지원, 교육 및 전문 서비스를 제공합니다. AI 여정의 모든 단계에서 NVIDIA 전문가들이 함께하는 엔터프라이즈 서비스는 프로젝트를 빠르고 성공적으로 시작하고 실행하도록 지원합니다.
AI로 더 빠르게 최첨단 혁신을 달성하는 방법과 NVIDIA DLI(Deep Learning Institute)의 AI 전문가가 DGX 고객에게 특별히 제공하는 특별 기술 교육에 대해 알아보세요.
시작하기
DGX 플랫폼은 모든 AI Enterprise의 요구에 맞는 다양한 제품과 서비스로 구성됩니다.
NVIDIA DGX는 엔터프라이즈 AI를 구축하는 검증된 기준입니다.
전문적인 요구에 대해 NVIDIA 제품 전문가에게 문의하세요.