NVIDIA Personal AI Router (PAIR)
NVIDIA PAIR 베타는 AI 앱 및 에이전트 워크플로우를 단일 로컬 엔드포인트에 연결하여 NVIDIA DGX Spark™, RTX™ 탑재 Windows 시스템 및 macOS 기기 전반에 걸쳐 추론을 라우팅합니다. 이를 통해 프롬프트, 파일 및 에이전트 컨텍스트를 비공개로 유지하면서 로컬 컴퓨팅을 극대화할 수 있습니다.
기능
NVIDIA PAIR는 무엇을 할 수 있나요?
개인 AI 클러스터 집 전원 켜기
이미 네트워크에 있는 RTX, DGX™ 및 Mac 시스템을 몇 분 만에 함께 가동하세요. NVIDIA PAIR은 호환 로컬 머신을 검색하여 특수 케이블, 랙 또는 복잡한 클러스터 설정 없이 하나의 개인 AI 추론 클러스터로 작동하도록 지원합니다.
에이전트 워크로드 라우팅 생각할 더 많은 공간
작업이 쌓일 때 로컬 AI 워크플로우를 계속 진행하세요. NVIDIA PAIR는 사용 가능한 로컬 노드 전반에 AI 추론 요청을 라우팅하여, 노드의 운영 체제에 관계없이 바쁜 AI 워크플로우가 유휴 컴퓨팅 자원을 활용할 수 있도록 지원합니다.
Ollama 및 LM Studio 지원 알고 있는 도구 사용
Windows, Linux 및 macOS에서 익숙한 로컬 추론 백엔드와 함께 NVIDIA PAIR를 실행하세요. NVIDIA PAIR가 출시되면서 Ollama 및 LM Studio를 지원하여, 앱에 일관된 단일 엔드포인트를 제공하는 동시에 요청을 사용 가능한 로컬 컴퓨팅으로 지능적으로 프록시합니다.
비공개 로컬 추론 데이터를 로컬에 보관하세요
네트워크에 유지되는 데이터로 집에서 AI 워크플로우를 실행하세요. NVIDIA PAIR는 비공개 로컬 추론을 위해 구축되어 프롬프트, 파일 및 에이전트 컨텍스트를 클라우드로 전송하지 않고도 사용할 수 있도록 지원합니다.
NVIDIA PAIR 시작하기
NVIDIA PAIR는 특수 케이블이나 랙 없이도 작동합니다. 설정하기도 쉽습니다.
NVIDIA PAIR 다운로드
정보
플랫폼
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
언어
영어
검증된 구성
GPU
모든 GeForce RTX GPU(20 시리즈 및 이후 모델), DGX Spark/GB10, Mac M4 또는 이후 모델
RAM
8 GB RAM 또는 그 이상
디스크 공간
권장: 20 GB 이상
인터넷
작업에 필요 없음,
모델 다운로드에 필요
PAIR에 대한 자주 묻는 질문
NVIDIA Personal AI Router (PAIR)는 NVIDIA RTX™ GPU 및 DGX Spark 시스템을 탑재한 호환 macOS, Windows 및 Linux 시스템을 개인용 홈 AI 클러스터로 연결하는 소프트웨어입니다. PAIR는 사용자의 홈 네트워크에서 프롬프트, 파일 및 에이전트 컨텍스트를 유지하면서 로컬 AI 추론 워크로드를 사용 가능한 기기 전반에 분산합니다.
개인 홈 AI 클러스터는 동일한 로컬 네트워크의 여러 호환 기기를 연결하여 로컬 AI 추론을 위한 가용 컴퓨팅 리소스를 공유할 수 있습니다. PAIR를 통해 Mac, NVIDIA RTX 시스템 및 DGX Spark 시스템은 로컬 AI 애플리케이션 및 에이전트를 위한 더 많은 용량을 제공할 수 있습니다. 디바이스는 병렬 작업을 처리하는 별도의 시스템으로 유지되며, PAIR는 이를 하나의 가상 GPU로 결합하지 않습니다.
PAIR를 다운로드하여 지원되는 시스템에 설치하고, 동일한 로컬 네트워크에서 디바이스를 쌍으로 구성한 다음 클러스터에 추가합니다. 연결되면 지원되는 애플리케이션 및 에이전트는 PAIR 로컬 엔드포인트를 통해 추론 요청을 전송할 수 있습니다.
NVIDIA PAIR는 호환되는 macOS, Windows 또는 Linux 시스템과 지원되는 하드웨어가 필요합니다. 요구 사양에는 특정 운영 체제 버전, NVIDIA RTX GPU, GPU 메모리, 시스템 메모리, 프로세서, 스토리지 및 로컬 네트워크 연결이 포함될 수 있습니다. 현재 세부 정보는 NVIDIA PAIR 랜딩 페이지의 시스템 요구 사양 섹션을 참조하십시오.
PAIR는 로컬에서 비공개 추론을 수행하도록 설계되었습니다. 프롬프트, 파일 및 에이전트 컨텍스트는 클라우드 추론 서비스로 전송되지 않고 사용자의 로컬 네트워크에 유지됩니다.
PAIR 지원 리소스
