NVIDIA 개인 AI 라우터(PAIR)는 NVIDIA RTX™ GPU 및 DGX Spark 시스템을 탑재한 호환 macOS, Windows 및 Linux 시스템을 개인용 홈 AI 클러스터로 연결하는 소프트웨어입니다. PAIR는 사용자의 홈 네트워크에서 프롬프트, 파일 및 에이전트 컨텍스트를 유지하면서 로컬 AI 추론 워크로드를 사용 가능한 기기 전반에 분산합니다.
개인 홈 AI 클러스터는 동일한 로컬 네트워크의 여러 호환 기기를 연결하여 로컬 AI 추론을 위한 가용 컴퓨팅 리소스를 공유할 수 있습니다. PAIR를 통해 Mac, NVIDIA RTX 시스템 및 DGX Spark 시스템은 로컬 AI 애플리케이션 및 에이전트를 위한 더 많은 용량을 제공할 수 있습니다. 디바이스는 병렬 작업을 처리하는 별도의 시스템으로 유지되며, PAIR는 이를 하나의 가상 GPU로 결합하지 않습니다.
노드는 NVIDIA PAIR와 쌍을 이루어 로컬 AI 클러스터에서 사용할 수 있도록 지원된 호환 시스템입니다. 노드는 지원되는 Mac, NVIDIA RTX PC 또는 워크스테이션 및 DGX Spark 시스템을 포함할 수 있습니다.
네, 가능합니다. NVIDIA PAIR은 지원되는 macOS 시스템을 동일한 로컬 네트워크에서 호환되는 NVIDIA RTX PC, 워크스테이션 및 DGX Spark 시스템과 페어링할 수 있습니다. 이를 통해 Mac 사용자는 로컬 AI 추론 워크로드를 가용 NVIDIA 컴퓨팅 리소스로 라우팅할 수 있습니다.
네, 가능합니다. PAIR은 동일한 로컬 네트워크에서 호환되는 NVIDIA RTX 및 DGX Spark 시스템을 검색하여 하나의 개인 AI 추론 클러스터로 작동하도록 지원합니다. 워크로드는 단일 머신에 의존하지 않고도 여러 기기에서 사용 가능한 컴퓨팅을 활용할 수 있습니다.
네, 가능합니다. NVIDIA PAIR는 호환되는 macOS, Windows 및 Linux 시스템을 지원합니다. 지원되는 하드웨어, 운영 체제 버전 및 기기 구성은 다를 수 있으므로 설치 전에 현재 시스템 요구 사항을 검토하십시오.
NVIDIA PAIR는 호환되는 macOS, Windows 또는 Linux 시스템과 지원되는 하드웨어가 필요합니다. 요구 사항에는 특정 운영 체제 버전, NVIDIA RTX GPU, GPU 메모리, 시스템 메모리, 프로세서, 스토리지 및 로컬 네트워크 연결이 포함될 수 있습니다. 현재 세부 정보는 NVIDIA PAIR 랜딩 페이지의 시스템 요구 사 섹션을 참조하십시오.
네, 가능합니다. 지원되는 Mac은 NVIDIA RTX PC, 워크스테이션 및 DGX Spark 시스템과 함께 노드로 추가할 수 있습니다. PAIR은 로컬 네트워크에서 프롬프트, 파일 및 에이전트 컨텍스트를 유지하면서 로컬 AI 워크플로우를 위해 페어링된 기기를 조정합니다.
PAIR은 추론 요청을 로컬 클러스터 내의 사용 가능한 기기로 라우팅합니다. 하나의 기기가 사용량이 많거나 가용 용량에 도달할 때 PAIR는 요청을 다른 호환 노드로 전달하여 까다로운 AI 및 에이전트 워크플로우 중 병목 현상을 줄이는 데 도움을 줍니다.
네, 가능합니다. PAIR은 다중 또는 순차적 추론 요청을 생성하는 로컬 AI 애플리케이션, 에이전트 및 다중 에이전트 워크플로우를 지원합니다. PAIR은 페어링된 시스템 전반에 요청을 라우팅하여 까다로운 작업에 더 많은 로컬 컴퓨팅을 사용할 수 있도록 지원합니다.
네, 가능합니다. PAIR은 Ollama 및 LM Studio를 로컬 추론 백엔드로 지원합니다. 애플리케이션은 로컬 엔드포인트를 사용할 수 있으며, PAIR 프록시는 추론 요청을 개인 AI 클러스터 내에서 사용 가능한 컴퓨팅 자원으로 라우팅합니다.
애플리케이션이나 에이전트에 큰 변경 사항은 필요하지 않습니다. PAIR는 Ollama 및 LM Studio 요청을 지원하는 단일 로컬 엔드포인트와 프록시를 제공하여 각 개별 기기에 맞는 애플리케이션을 구성해야 하는 필요성을 줄입니다.
PAIR는 로컬에서 비공개 추론을 수행하도록 설계되었습니다. 프롬프트, 파일 및 에이전트 컨텍스트는 클라우드 추론 서비스로 전송되지 않고 사용자의 로컬 네트워크에 유지됩니다.
아니요. PAIR는 이미 로컬 네트워크에 연결된 호환 기기를 사용합니다. 특수 케이블, 서버 랙 또는 기존 데이터 센터 클러스터 하드웨어가 필요하지 않습니다.
PAIR를 다운로드하여 지원되는 시스템에 설치하고, 동일한 로컬 네트워크에서 디바이스를 쌍으로 구성한 다음 클러스터에 추가합니다. 연결되면 지원되는 애플리케이션 및 에이전트는 PAIR 로컬 엔드포인트를 통해 추론 요청을 전송할 수 있습니다.
공식 NVIDIA PAIR 웹사이트에서 NVIDIA PAIR를 다운로드하세요. 이 웹사이트는 또한 현재 시스템 요구 사항, 설치 지침 및 추가 FAQ를 제공합니다.
PAIR은 기기 페어링, 노드 발견, 엔드포인트 액세스, 백엔드 프록시 및 워크로드 라우팅을 지원하는 재사용 가능한 로컬 추론 라우팅 레이어를 제공합니다. 커스텀 스크립트를 사용하려면 일반적으로 개발자가 각 워크플로우의 기기 가용성, 엔드포인트, 포트 및 애플리케이션 구성을 관리해야 합니다.