NVIDIA Personal AI Router (PAIR)
NVIDIA PAIR-beta forbinder AI-app- og agentarbejdsgange til et enkelt lokalt slutpunkt til routing af inferens på tværs af NVIDIA DGX Spark, Windows-systemer med RTX™ og macOS-enheder. Dette hjælper dig med at maksimere lokal beregning, samtidig med at prompter, filer og agentkontekst holdes privat.
Funktioner
Hvad kan NVIDIA PAIR gøre?
Personlig AI-klynge Giv huset mere kraft
Saml RTX-, DGX™ og Mac-systemer, der allerede er på dit netværk, på få minutter. NVIDIA PAIR finder kompatible lokale maskiner og hjælper dem med at fungere som ét samlet personligt AI-inferenscluster uden behov for særlige kabler, serverrack eller kompleks clusteropsætning.
Routing af agentarbejdsbelastning Mere plads til at tænke
Hold lokale AI-arbejdsgange i bevægelse, når opgaver hober sig op. NVIDIA PAIR fordeler AI-inferensanmodninger på de tilgængelige lokale noder, hvilket hjælper travle AI-arbejdsgange med at udnytte ledig regnekapacitet, uanset nodens operativsystem.
Understøttelse af Ollama og LM Studio Brug de værktøjer, du kender
Kør NVIDIA PAIR sammen med velkendte lokale inferens-backends på Windows, Linux og macOS. Ved lanceringen understøtter NVIDIA PAIR Ollama og LM Studio, hvilket giver apps et ensartet, fælles endpoint, samtidig med at anmodninger på intelligent vis videresendes til tilgængelig lokal regnekraft.
Privat lokal inferens Hold det tæt på hjemmet
Kør AI-arbejdsgange hjemme med data, der forbliver på dit netværk. NVIDIA PAIR er bygget til privat lokal inferens, hvilket hjælper dig med at bruge prompter, filer og agentkontekst uden at sende dem til skyen.
Sådan kommer du i gang med NVIDIA PAIR
NVIDIA PAIR fungerer uden særlige kabler eller racks. Og det er nemt at installere.
Download NVIDIA PAIR
Oplysninger
Platform
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
sprog
Engelsk
Systemkrav
Grafikkort
Alle GeForce RTX GPU'er (20-serien og nyere), DGX Spark/GB10, Mac M4 eller nyere
RAM
8 GB RAM eller mere
Diskplads
Anbefalet: 20 GB eller højere
Internet
Ikke påkrævet til drift
Nødvendig til modeldownload
Ofte stillede spørgsmål om PAIR
NVIDIA Personal AI Router (PAIR) er software, der forbinder kompatible macOS-, Windows- og Linux-systemer med NVIDIA RTX™ GPU'er og DGX Spark-systemer i en personlig AI-klynge i hjemmet. PAIR fordeler lokale AI-inferens-arbejdsbelastninger på tværs af tilgængelige enheder, samtidig med at prompter, filer og agentkontekst forbliver på brugerens hjemmenetværk.
En personlig AI-klynge i hjemmet forbinder flere kompatible enheder på det samme lokale netværk, så de kan dele de tilgængelige computerressourcer til lokal AI-inferens. PAIR gør det muligt for Mac-computere, NVIDIA RTX-systemer og DGX Spark-systemer at yde mere kapacitet til lokale AI-programmer og agenter. Enhederne er fortsat separate systemer, der håndterer parallelle opgaver; PAIR kombinerer dem ikke til én virtuel GPU.
Download PAIR, installer det på understøttede systemer, par enhederne på det samme lokale netværk, og tilføj dem til klyngen. Når der er oprettet forbindelse, kan understøttede programmer og agenter sende anmodninger om inferens via det lokale PAIR-slutpunkt.
NVIDIA PAIR kræver kompatible macOS-, Windows- eller Linux-systemer og understøttet hardware. Krav kan omfatte specifikke operativsystemversioner, NVIDIA RTX GPU'er, GPU-hukommelse, systemhukommelse, processorer, lager og lokal netværksforbindelse. Se afsnittet Systemkrav på NVIDIA PAIR-landingssiden for at få aktuelle oplysninger.
PAIR er designet til privat lokal inferens. Prompter, filer og agentkontekst forbliver på brugerens lokale netværk i stedet for at blive sendt til en inferenstjeneste i skyen.
PAIR-understøttelsesressourcer
