NVIDIA Personal AI Router (PAIR) er software, der forbinder kompatible macOS-, Windows- og Linux-systemer med NVIDIA RTX™ GPU'er og DGX Spark-systemer i en personlig AI-klynge i hjemmet. PAIR fordeler lokale AI-inferens-arbejdsbelastninger på tværs af tilgængelige enheder, samtidig med at prompter, filer og agentkontekst forbliver på brugerens hjemmenetværk.
En personlig AI-klynge i hjemmet forbinder flere kompatible enheder på det samme lokale netværk, så de kan dele de tilgængelige computerressourcer til lokal AI-inferens. PAIR gør det muligt for Mac-computere, NVIDIA RTX-systemer og DGX Spark-systemer at yde mere kapacitet til lokale AI-programmer og agenter. Enhederne er fortsat separate systemer, der håndterer parallelle opgaver; PAIR kombinerer dem ikke til én virtuel GPU.
En node er et kompatibelt system, der er blevet parret med NVIDIA PAIR og gjort tilgængelig for den lokale AI-klynge. Noder kan omfatte understøttede Mac-computere, NVIDIA RTX-pc'er eller arbejdsstationer og DGX Spark-systemer.
Ja. NVIDIA PAIR kan parre understøttede macOS-systemer med kompatible NVIDIA RTX-pc'er, arbejdsstationer og DGX Spark-systemer på det samme lokale netværk. Dette gør det muligt for Mac-brugere at dirigere lokale AI-inferensarbejdsbelastninger til tilgængelige NVIDIA-beregningsressourcer.
Ja. PAIR registrerer kompatible NVIDIA RTX- og DGX Spark-systemer på det samme lokale netværk, og gør det muligt for dem at fungere som én samlet personlig AI-klynge til inferens. Arbejdsbelastninger kan bruge tilgængelig databehandling på tværs af flere enheder i stedet for at stole på en enkelt maskine.
Ja. NVIDIA PAIR understøtter kompatible macOS-, Windows- og Linux-systemer. Understøttet hardware, operativsystemversioner og enhedskonfigurationer kan variere, så gennemgå de aktuelle systemkrav før installation.
NVIDIA PAIR kræver kompatible macOS-, Windows- eller Linux-systemer og understøttet hardware. Krav kan omfatte specifikke operativsystemversioner, NVIDIA RTX GPU'er, GPU-hukommelse, systemhukommelse, processorer, lager og lokal netværksforbindelse. Se afsnittet Systemkrav på NVIDIA PAIR-landingssiden for at få aktuelle oplysninger.
Ja. En understøttet Mac kan tilføjes som en node sammen med NVIDIA RTX-pc'er, arbejdsstationer og DGX Spark-systemer. PAIR koordinerer de parrede enheder til lokale AI-arbejdsgange, samtidig med at prompter, filer og agentkontekst forbliver på det lokale netværk.
PAIR dirigerer anmodninger om inferens til tilgængelige enheder i den lokale klynge. Når en enhed er optaget eller når sin tilgængelige kapacitet, kan PAIR dirigere anmodninger til andre kompatible noder, hvilket er med til at reducere flaskehalse under krævende AI- og agentarbejdsgange.
Ja. PAIR understøtter lokale AI-programmer, agenter og arbejdsgange med flere agenter, der genererer flere eller sekventielle inferensanmodninger. Ved at dirigere anmodninger på tværs af parrede systemer hjælper PAIR med at gøre mere lokal computerkraft tilgængelig til krævende opgaver.
Ja. PAIR understøtter Ollama og LM Studio som lokale inferens-backends. Programmer kan bruge et lokalt slutpunkt, mens PAIR formidler inferensanmodninger til tilgængelige beregningsressourcer i den personlige AI-klynge.
Der er ikke behov for større ændringer i programmer eller agenter. PAIR stiller ét lokalt slutpunkt til rådighed og videresender understøttede anmodninger til Ollama og LM Studio, så behovet for at konfigurere programmer til hver enkelt enhed reduceres.
PAIR er designet til privat lokal inferens. Prompter, filer og agentkontekst forbliver på brugerens lokale netværk i stedet for at blive sendt til en inferenstjeneste i skyen.
Nej. PAIR bruger kompatible enheder, der allerede er forbundet med det lokale netværk. Den kræver ikke særlige kabler, serverracks eller traditionel hardware til datacenterklynger.
Download PAIR, installer det på understøttede systemer, par enhederne på det samme lokale netværk, og tilføj dem til klyngen. Når der er oprettet forbindelse, kan understøttede programmer og agenter sende anmodninger om inferens via det lokale PAIR-slutpunkt.
Download NVIDIA PAIR fra det officielle NVIDIA PAIR-websted. Webstedet indeholder også nuværende systemkrav, installationsvejledning og yderligere ofte stillede spørgsmål.
PAIR leverer et genanvendeligt lokalt inferens-routinglag med parring af enheder, registrering af noder, adgang til slutpunkter, proxyfunktion til backends og routing af arbejdsbelastninger. Et brugerdefineret script kræver typisk, at udviklere administrerer enhedstilgængelighed, slutpunkter, porte og programkonfiguration for hver arbejdsgang.