NVIDIA 엔터프라이즈 레퍼런스 아키텍처로 데이터센터를 고성능 AI 팩토리로 전환하세요.
개요
NNVIDIA 엔터프라이즈 레퍼런스 아키텍처는 조직이 검증되고 반복 가능한 인프라를 사용하여 고성능 AI 팩토리를 설계, 배포, 확장할 수 있도록 지원합니다. 이러한 설계는 인증된 컴퓨팅, 고속 동서 및 남북 네트워킹, 관측 도구 및 소프트웨어를 결합하여 4노드 클러스터부터 엔터프라이즈 규모의 환경에 이르기까지 확장 가능한 성능을 보장합니다.
엔터프라이즈 레퍼런스 아키텍처
데이터 센터에서 클러스터를 구축하기 위한 종합적인 설정 가이드를 지금 확인하실 수 있습니다.
사용 사례
글로벌 파트너의 검증된 NVIDIA 엔터프라이즈 레퍼런스 아키텍처와 NVIDIA 인증 시스템을 통해 에이전틱 AI, 피지컬 AI, 고성능 컴퓨팅(HPC) 및 AI 시뮬레이션 워크로드를 가속화하세요. 엔터프라이즈 AI 팩토리 배포를 위한 주 인프라 클러스터 구성의 개요는 아래와 같습니다.
NVIDIA RTX PRO™ AI 팩토리 구성은 생성형 및 에이전틱 AI, 데이터 분석, 비주얼 컴퓨팅 및 엔지니어링 시뮬레이션을 포함한 광범위한 엔터프라이즈 워크로드를 위해 설계되었습니다. 배포는 16노드 및 32노드 설계 기준을 중심으로 최적화되어 성능, 확장성 및 배포 효율성 간의 이상적인 균형을 제공합니다. 엔터프라이즈 AI, 시뮬레이션 및 비주얼 컴퓨팅 전반에 걸쳐 범용 워크로드 가속화를 위해 설계된 NVIDIA RTX PRO 서버는 PCIe 환경에 최적화되어 공간, 전력 및 냉각 제약이 있는 데이터 센터에 이상적입니다. 최신 AI 워크로드를 위해 특별히 구축된 이 제품은 에이전틱 AI 및 대규모 언어 모델(LLM) 추론을 위한 효율적인 성능을 제공합니다.
고성능 NVIDIA HGX™ AI 팩토리 구성은 NVIDIA HGX 시스템을 활용하여 멀티 노드 AI 학습 및 대규모 추론을 위해 특별히 구축되었습니다. 32, 64 및 128노드 설계 지점에서 제공되며 NVIDIA Spectrum-X™ 네트워킹이 지원되는 이 아키텍처는 유연한 레일 최적화 설계를 특징으로 하며, 다양한 랙 레이아웃 전반에서 효율적인 통합을 가능하게 하는 동시에 고처리량과 저지연 성능을 제공합니다. 가장 까다로운 워크로드를 실행하는 AI 파워 사용자에게 획기적인 성능을 제공하고, 대규모 모델 학습 및 미세 조정을 지원하며, 추론을 획기적으로 가속화합니다. 차세대 정밀도와 초고속 상호 연결을 통해 이 솔루션은 최대 15배 더 높은 토큰 처리량을 달성합니다.
NVIDIA NVL72 AI 팩토리 구성은 1조 개의 매개변수 모델을 학습하고 배포하도록 설계되어 단일 랙 내에서 엑사스케일 컴퓨팅 파워를 제공합니다. 대규모 모델 처리량, 멀티 사용자 추론 및 대규모 실시간 추론을 위해 구축된 이 제품은 차세대 AI 기반 혁신을 지원합니다. 배포 설계 포인트는 4랙 및 8랙 구성을 중심으로 중점을 둡니다. 유연한 레일 최적화 네트워크를 기반으로 구축된 이 아키텍처는 다양한 랙 레이아웃 및 시스템 설계에 유연하게 대응하는 동시에 고대역폭 및 저지연 성능을 제공합니다. 이 플랫폼은 업계 최고의 에너지 효율과 함께 탁월한 AI 팩토리 성능을 제공하며, 5세대 NVIDIA NVLink™, FP4 Tensor 코어 및 첨단 열 관리 기술을 기반으로 합니다.
이점
검증된 파트너 준비 구성으로 확장 가능한 고성능 AI 인프라를 활용해 보세요.
멀티 노드 클러스터 전반에서 전체 GPU 활용도와 성능 일관성을 보장하는 아키텍처를 통해 AI 추론, 미세 조정 및 학습의 집약적인 요구 사항을 충족하세요.
인프라를 쉽게 확장하고 최대 128노드까지 확장 가능하고 간소화된 배포를 보장합니다. 소프트웨어 에코시스템을 활용하는 NVIDIA 엔터프라이즈 AI 팩토리 검증 설계를 통해 풀스택 솔루션을 위한 기반을 구축하세요.
배포 프로세스와 효율적인 설계를 간소화하고, 복잡성과 총 소유 비용(TCO)을 줄이는 동시에, 가치 창출 시간을 단축하세요.
특정 표준화된 설계 패턴을 따라 설치 간 일관된 운영을 달성하고, 반복적인 지원의 필요성을 줄이는 동시에 더 빠른 문제 해결 시간을 지원합니다.
파트너
저희는 주요 파트너들과 협력하여 그들이 엔터프라이즈 레퍼런스 아키텍처와 AI 팩토리 솔루션을 시장에 선보이는 것을 자랑스럽게 생각합니다. 이러한 파트너들의 승인된 설계는 NVIDIA의 설계 검토 위원회(Design Review Board)의 심사를 통과하였으며, 인프라, 네트워킹 로직, 소프트웨어 등 하나 이상의 분야에서 NVIDIA의 인증을 받을 수 있는 가이드를 제공합니다.
Palantir 소버린 AI OS 레퍼런스 아키텍처는 NVIDIA 엔터프라이즈 레퍼런스 아키텍처(RA)를 기반으로 하며, 글로벌 시스템 파트너와 협력하여 NVIDIA AI 인프라에서 Palantir의 전체 소프트웨어 제품군을 실행할 수 있도록 테스트와 인증을 완료했습니다. 이 소버린 AI 아키텍처는 지연에 민감한 워크플로우, 데이터 주권 요구 사항 및 광범위한 지리적 분산 환경을 가진 고객에게 핵심적입니다. 이 아키텍처는 기업이 데이터, AI 모델 및 애플리케이션에 대한 완전한 제어권을 가질 수 있도록 지원합니다.
리소스
NVIDIA는 엔터프라이즈 전반에서 생성형 AI 및 에이전틱 워크플로우를 확장하여 보안, 성능, 일관성을 보장하는 통합 AI 팩토리를 구축했습니다. 이 플랫폼은 혁신을 가속화하고 소프트웨어 및 하드웨어 엔지니어링을 간소화하며 공급망 운영을 최적화하는 수백 개의 AI 에이전트를 지원하여 계획 시간을 95% 이상 단축하고 수십 년에 걸쳐 진행된 엔지니어링 작업을 단 1년 만에 달성합니다.