NVIDIA Personal AI-router (PAIR) är programvara som ansluter kompatibla macOS-, Windows- och Linux-system med NVIDIA RTX™-GPU:er och DGX Spark-system till ett personligt AI-kluster för hemmet. PAIR distribuerar lokala AI-inferensarbetsbelastningar över tillgängliga enheter samtidigt som prompter, filer och agentkontext hålls på användarens hemnätverk.
Ett personligt AI-kluster för hemmet ansluter flera kompatibla enheter på samma lokala nätverk, vilket gör att de kan dela tillgängliga beräkningsresurser för lokal AI-inferens. PAIR gör det möjligt för Mac-datorer, NVIDIA RTX-system och DGX Spark-system att ge mer kapacitet för lokala AI-applikationer och agenter. Enheterna förblir separata system som hanterar parallella uppgifter; PAIR kombinerar dem inte till en virtuell GPU.
En nod är ett kompatibelt system som har parats med NVIDIA PAIR och gjorts tillgängligt för det lokala AI-klustret. Noder kan inkludera Mac-datorer som stöds, NVIDIA RTX-datorer eller arbetsstationer och DGX Spark-system.
Ja. NVIDIA PAIR kan para ihop macOS-system som stöds med kompatibla NVIDIA RTX-datorer, arbetsstationer och DGX Spark-system i samma lokala nätverk. Detta gör det möjligt för Mac-användare att dirigera lokala arbetsbelastningar för AI-inferens till tillgängliga NVIDIA-beräkningsresurser.
Ja. PAIR upptäcker kompatibla NVIDIA RTX- och DGX Spark-system på samma lokala nätverk och hjälper dem att fungera som ett personligt AI-inferenskluster. Arbetsbelastningar kan använda tillgängliga beräkningsresurser på flera enheter i stället för att förlita sig på en enda maskin.
Ja. NVIDIA PAIR stöder kompatibla macOS-, Windows- och Linux-system. Maskinvara som stöds, operativsystemversioner och enhetskonfigurationer kan variera, så granska de nuvarande systemkraven före installation.
NVIDIA PAIR kräver kompatibla macOS-, Windows- eller Linux-system och maskinvara som stöds. Krav kan inkludera specifika operativsystemversioner, NVIDIA RTX-GPU:er, GPU-minne, systemminne, processorer, lagring och lokal nätverksanslutning. Se avsnittet Systemkrav på NVIDIA PAIR-landningssidan för aktuell information.
Ja. En Mac som stöds kan läggas till som en nod tillsammans med NVIDIA RTX-datorer, arbetsstationer och DGX Spark-system. PAIR samordnar de parade enheterna för lokala AI-arbetsflöden samtidigt som prompter, filer och agentkontext hålls på det lokala nätverket.
PAIR dirigerar inferensförfrågningar till tillgängliga enheter inom det lokala klustret. När en enhet är upptagen eller når sin tillgängliga kapacitet, kan PAIR dirigera förfrågningar till andra kompatibla noder, vilket hjälper till att minska flaskhalsar under krävande AI- och agentarbetsflöden.
Ja. PAIR stöder lokala AI-applikationer, agenter och arbetsflöden med flera agenter som genererar flera eller sekventiella inferensbegäranden. Genom att dirigera förfrågningar över parade system hjälper PAIR till att göra mer lokal beräkningskapacitet tillgänglig för krävande uppgifter.
Ja. PAIR stöder Ollama och LM Studio som lokala backend-system för inferens. Applikationer kan använda en lokal slutpunkt medan PAIR vidarebefordrar inferensbegäranden till tillgängliga beräkningsresurser inom det personliga AI-klustret.
Inga större applikations- eller agentändringar krävs. PAIR tillhandahåller en enda lokal slutpunkt och agerar proxy för Ollama- och LM Studio-förfrågningar som stöds, vilket minskar behovet av att konfigurera applikationer för varje enskild enhet.
PAIR är utformat för privat lokal inferens. Promptar, filer och agentkontext stannar kvar på användarens lokala nätverk i stället för att skickas till en inferenstjänst i molnet.
Nej. PAIR använder kompatibla enheter som redan är anslutna till det lokala nätverket. Det kräver inte speciella kablar, serverrack eller traditionell maskinvara för datacenterkluster.
Ladda ner PAIR, installera det på system som stöds, para ihop enheterna på samma lokala nätverk och lägg till dem i klustret. När de väl har anslutits kan applikationer och agenter som stöds skicka inferensförfrågningar via den lokala PAIR-slutpunkten.
Ladda ner NVIDIA PAIR från den officiella NVIDIA PAIR-webbplatsen. Webbplatsen innehåller även aktuella systemkrav, installationsvägledning och ytterligare vanliga frågor.
PAIR ger ett återanvändbart lokalt routningsskikt för inferens med enhetsparning, nodupptäckt, slutpunktsåtkomst, backend-proxytjänster och routning av arbetsbelastning. Ett anpassat skript kräver vanligtvis att utvecklare hanterar enhetstillgänglighet, slutpunkter, portar och applikationskonfiguration för varje arbetsflöde.