NVIDIA Personal AI Router (PAIR) er programvare som kobler kompatible macOS-, Windows- og Linux-systemer sammen med NVIDIA RTX™ GPU-er og DGX Spark-systemer til en personlig KI-klynge for hjemmet. PAIR distribuerer arbeidsbelastninger for lokal KI-inferens på tvers av tilgjengelige enheter, samtidig som ledetekster, filer og agentkonteksten beholdes på brukerens hjemmenettverk.
En personlig KI-klynge for hjemmet kobler sammen flere kompatible enheter på samme lokale nettverk, noe som gjør at de kan dele tilgjengelige databehandlingsressurser for lokal KI-inferens. PAIR gjør det mulig for Mac-maskiner, NVIDIA RTX-systemer og DGX Spark-systemer å gi mer kapasitet til lokale KI-applikasjoner og -agenter. Enhetene forblir separate systemer som håndterer parallelle oppgaver; PAIR kombinerer dem ikke til én virtuell GPU.
En node er et kompatibelt system som er sammenkoblet med NVIDIA PAIR og gjort tilgjengelig for den lokale KI-klyngen. Noder kan inkludere støttede Macer, PC-er eller arbeidsstasjoner med NVIDIA RTX, og DGX Spark-systemer.
Ja. NVIDIA PAIR kan koble støttede macOS-systemer med kompatible NVIDIA RTX-PC-er, arbeidsstasjoner og DGX Spark-systemer på samme lokale nettverk. Dette gjør det mulig for Mac-brukere å rute lokale arbeidsbelastninger for KI-inferens til tilgjengelige NVIDIA-beregningsressurser.
Ja. PAIR oppdager kompatible NVIDIA RTX- og DGX Spark-systemer på samme lokale nettverk og hjelper dem med å fungere som én personlig KI-inferensklynge. Arbeidsbelastninger kan bruke tilgjengelige beregningsressurser på tvers av flere enheter i stedet for å være avhengig av én enkelt maskin.
Ja. NVIDIA PAIR støtter kompatible macOS-, Windows- og Linux-systemer. Støttet maskinvare, operativsystemversjoner og enhetskonfigurasjoner kan variere, derfor må du lese gjeldende systemkrav før installasjon.
NVIDIA PAIR krever kompatible macOS-, Windows- eller Linux-systemer og støttet maskinvare. Krav kan omfatte spesifikke operativsystemversjoner, NVIDIA RTX GPU-er, GPU-minne, systemminne, prosessorer, lagring og lokal nettverkstilkobling. Se avsnittet om systemkrav på landingssiden for NVIDIA PAIR for oppdatert informasjon.
Ja. En støttet Mac kan legges til som en node sammen med NVIDIA RTX-PC-er, arbeidsstasjoner og DGX Spark-systemer. PAIR koordinerer de sammenkoblede enhetene for lokale KI-arbeidsflyter, mens ledetekster, filer og agentkonteksten beholdes på det lokale nettverket.
PAIR ruter inferensforespørsler til tilgjengelige enheter i den lokale klyngen. Når én enhet er opptatt eller når sin tilgjengelige kapasitet, kan PAIR sende forespørsler til andre kompatible noder, noe som bidrar til å redusere flaskehalser under krevende KI- og agentarbeidsflyter.
Ja. PAIR støtter lokale KI-applikasjoner, agenter og arbeidsflyter med flere agenter som genererer flere eller sekvensielle inferensforespørsler. Ved å rute forespørsler på tvers av sammenkoblede systemer, bidrar PAIR til å gjøre mer lokal databehandling tilgjengelig for krevende oppgaver.
Ja. PAIR støtter Ollama og LM Studio som lokale backend-løsninger for inferens. Applikasjoner kan bruke et lokalt endepunkt, mens PAIR videresender inferensforespørsler til tilgjengelig datakraft i den personlige KI-klyngen.
Ingen store endringer i programmet eller agenten kreves. PAIR tilbyr et enkelt lokalt endepunkt og fungerer som proxy for støttede Ollama- og LM Studio-forespørsler, noe som reduserer behovet for å konfigurere applikasjoner for hver enkelt enhet.
PAIR er designet for privat lokal inferens. Ledetekster, filer og agentkontekst forblir på brukerens lokale nettverk i stedet for å bli sendt til en skybasert inferenstjeneste.
Nei. PAIR bruker kompatible enheter som allerede er koblet til det lokale nettverket. Det krever ingen spesielle kabler, serverrack eller tradisjonell maskinvare for datasenterklynger.
Last ned PAIR, installer det på støttede systemer, par enhetene på samme lokale nettverk og legg dem til i klyngen. Når støttede applikasjoner og agenter er tilkoblet, kan de sende inferensforespørsler gjennom det lokale PAIR-endepunktet.
Last ned NVIDIA PAIR fra det offisielle NVIDIA PAIR-nettstedet. Nettstedet gir også informasjon om gjeldende systemkrav, installasjonsveiledning og ytterligere vanlige spørsmål.
PAIR gir et gjenbrukbart lokalt inferens-rutingslag med enhetssammenkobling, nodeoppdagelse, endepunkttilgang, back-end-proxying og arbeidsbelastningsruting. Et tilpasset skript krever vanligvis at utviklere administrerer enhetstilgjengelighet, endepunkter, porter og applikasjonskonfigurasjon for hver arbeidsflyt.