NVIDIA DSX 레퍼런스 설계의 세대별 검증된 AI 팩토리 아키텍처는 컴퓨팅, 네트워킹, 스토리지, 시설 인프라 및 하드웨어 클러스터 설계를 포함합니다.
NVIDIA DSX 플랫폼
NVIDIA DSX는 설계, 시뮬레이션, 운영 및 에코시스템 기술을 통합하여 최저 토큰 비용에 최적화된 AI 팩토리를 구축할 수 있도록 지원합니다.
개요
최저 토큰 비용으로 효율적이고 탄력적인 AI 팩토리를 공동 설계하기 위한 플랫폼
NVIDIA DSX는 그리드, 시설, 칩부터 인프라 소프트웨어 및 파트너 기술에 이르기까지 전체 스택 전반에 걸쳐 AI 팩토리가 설계, 구축 및 최적화되는 방법을 정의하여 가용 전력과 인프라로부터 더 유용한 AI 출력을 생성합니다.
DSX는 오픈 소프트웨어 라이브러리, 워크플로우 가이드 및 레퍼런스 설계를 NVIDIA 컴퓨팅 플랫폼 및 공동 설계된 OEM 인프라와 결합하여 소프트웨어 및 하드웨어 솔루션의 광범위한 에코시스템을 지원합니다.
장점
NVIDIA DSX는 AI 팩토리 성능과 와트당 토큰을 어떻게 개선하나요?
NVIDIA DSX AI 팩토리는 통합 제품으로 공동 설계되었으며, 최저 토큰 비용과 에너지 효율에 최적화되었습니다.
기술
AI 팩토리를 위한 DSX 플랫폼 기술
NVIDIA DSX는 파트너가 활용하고 그 기반 위에서 개발할 수 있는 다양한 기술에 걸쳐 있는 플랫폼으로, AI 팩토리 전반에서 와트당 토큰을 극대화하도록 설계되었습니다.
NVIDIA DSX 레퍼런스 설계
칩부터 그리드에 이르기까지 AI 팩토리를 위한 검증된 아키텍처
NVIDIA DSX Sim
AI 팩토리 설계 및 운영을 위한 시뮬레이션
NVIDIA DSX OS
대규모 AI 팩토리를 효율적으로 운영
NVIDIA DSX MaxLPS
와트당 성능을 극대화하는 동적 전력 관리
NVIDIA DSX Flex
AI 팩토리를 위한 그리드 응답형 전력 오케스트레이션
NVIDIA DSX Exchange
IT, OT 및 AI 팩토리 운영 전반에 걸쳐 안전한 데이터 교환
검증된 AI 클라우드 인프라 소프트웨어로 대규모 운영
NVIDIA AI Cloud-Ready 검증 이니셔티브는 AI 클라우드를 위한 네트워킹, 컴퓨팅, 오케스트레이션, AI 플랫폼 계층 전반에 걸쳐 인프라 소프트웨어를 평가합니다.
- 인용문 1
- 인용문 2
- 인용문 3
- 인용문 4
AI 컴퓨팅 성능을 확장하는 데 새로운 파워 아키텍처가 필요한 이유
NVIDIA 800 VDC 아키텍처가 전력 변환 단계, 분배 손실, 인프라 복잡성을 줄여 미래의 메가와트 규모 AI 시스템을 지원하는 방법을 살펴보세요.
다음 단계
NVIDIA DSX로 구축 시작하기
NVIDIA 레퍼런스 아키텍처, 시뮬레이션 도구 및 에코시스템 소프트웨어로 AI 팩토리를 설계하고 최적화하세요.
AI 팩토리 DSX 인프라
AI 팩토리 애플리케이션에 대한 NVIDIA의 기능 요구 사항을 충족하도록 검증된 제품을 알아보세요.
NVIDIA DSX AI 팩토리 플랫폼에 대한 FAQ
NVIDIA DSX는 NVIDIA의 AI 팩토리 규모의 플랫폼입니다. 설계, 시뮬레이션, 운영 및 에코시스템 기술을 통합하여 파트너가 최저 토큰 비용에 최적화된 AI 팩토리를 구축할 수 있도록 지원합니다. DSX는 칩과 시스템, 인프라 소프트웨어, 시설 및 파트너 기술에 걸쳐 포괄되며, AI 팩토리가 와트당 더 많은 토큰을 생산할 수 있도록 지원합니다.
여기에는 DSX 레퍼런스 디자인, DSX Sim, DSX MaxLPS, DSX Flex, DSX Exchange 및 DSX OS 기술이 포함되어 있습니다.
AI 팩토리는 AI 워크로드를 위해 특별히 설계되었으며, 추론 성능, 에너지 효율 및 최저 토큰 비용에 중점을 둡니다. NVIDIA DSX AI 팩토리는 종종 사일로화된 구성 요소로 조립되는 기존 데이터 센터와 달리 칩, 시스템, 네트워킹, 인프라 소프트웨어, 전력, 냉각 및 운영 전반에 걸쳐 통합 시스템으로 공동 설계됩니다.
기존 데이터 센터는 주로 정보를 저장, 처리, 검색 및 제공합니다. AI 팩토리는 인텔리전스를 생성하여 데이터와 에너지를 토큰, 예측, 시뮬레이션 및 AI 기반 출력으로 전환합니다.
NVIDIA Omniverse™ DSX Blueprint는 DSX Sim 내에서 대규모 AI 팩토리를 설계하고 운영하기 위한 오픈 포괄적인 프레임워크입니다. 일반적으로 build.nvidia.com에서 제공되며, NVIDIA Vera Rubin DSX AI 팩토리 레퍼런스 디자인과 완벽하게 호환됩니다.
Blueprint는 개발자가 AI 팩토리의 물리적으로 정확한 디지털 트윈을 구축하고, 물리적 및 논리적 동작을 시뮬레이션하며, 구축 또는 배포를 시작하기 전에 성능을 최적화할 수 있도록 레시피와 구성 요소를 제공합니다. 여기에는 전체 AI 팩토리 디지털 트윈, NVIDIA SimReady 에셋, 하드웨어 구성, 사전 구축된 웹 UI, 샘플 스크립트, 워크플로우 가이드, NVIDIA CUDA-X™ 및 Omniverse 핵심 기술이 포함되어 있습니다.
NVIDIA DSX는 NVIDIA 클라우드 파트너(NCP), 소버린 클라우드 및 LPS(Land/Power/Shell) 공급업체, 전력 및 냉각 장비 제조업체, 설계, 시뮬레이션 및 시설 운영을 위한 독립 소프트웨어 공급업체(ISV)와 같은 광범위한 다분야 에코시스템에 서비스를 제공합니다. OEM(Original Equipment Manufacturer) 및 시스템 통합업체, 건축, 엔지니어링 및 건설 회사, 그리고 IaaS 및 PaaS 솔루션을 제공하는 인프라 ISV 등이 포함됩니다.
DSX는 공통 설계 표준을 제공하므로 냉각수 분배장치(CDU) 제조업체부터 ISV에 이르기까지 모든 당사자가 맞춤형 통합 없이 AI 팩토리 구축에 기여할 수 있습니다.
NVIDIA DSX는 AI 팩토리가 동일한 전력, 인프라 및 운영 예산으로 더 많은 토큰을 생산할 수 있도록 지원하여 토큰 비용을 절감할 수 있습니다. DSX는 컴퓨팅, 냉각, 전력 및 운영을 별도의 시스템으로 취급하는 대신 이를 하나의 통합 AI 팩토리처럼 조정합니다.
DSX MaxLPS는 유휴 전력을 회수할 수 있도록 지원하므로 고객은 동일한 메가와트 예산 내에서 최대 40% 더 많은 GPU를 프로비저닝할 수 있습니다. DSX OS는 자동화된 플릿 규모의 운영을 통해 가동 시간을 개선합니다. DSX 레퍼런스 설계는 배포를 가속화하는 반면, DSX Exchange 및 DSX Sim은 시설, 전력, 냉각 및 컴퓨팅 신호를 통합하여 처리량, 효율성 및 와트당 토큰을 개선하는 데 도움이 됩니다.
NVIDIA DSX 문서를 통해 AI 팩토리 구축을 위한 레퍼런스 설계, 소프트웨어 스택, 그리고 파트너 통합 방안을 살펴보세요. 이 문서는 DSX 기반 인프라를 설계, 최적화 및 운영하기 위한 기술 지침을 제공합니다.