Router AI personal NVIDIA (PAIR)
NVIDIA PAIR beta conectează fluxurile de lucru ale aplicațiilor și agenților AI la un singur punct final local pentru direcționarea inferenței pe NVIDIA DGX Spark™, sisteme Windows cu RTX™ și dispozitive macOS. Acest lucru te ajută să maximizezi procesarea locală, păstrând în același timp solicitările, fișierele și contextul agentului private.
Caracteristici
Ce poate face NVIDIA PAIR?
Cluster AI personal Dă putere casei
Reunește sistemele RTX, DGX™ și Mac deja existente în rețeaua ta în câteva minute. NVIDIA PAIR descoperă computerele locale compatibile și le ajută să funcționeze ca un singur cluster de inferență AI personal, fără a fi necesare cabluri speciale, rack-uri sau configurare complexă a clusterului.
Rutarea sarcinii de lucru pentru agent Mai mult timp de gândire
Menține fluxurile de lucru AI locale în mișcare atunci când sarcinile se acumulează. NVIDIA PAIR rutează solicitările de inferență AI către nodurile locale disponibile, ajutând fluxurile de lucru AI ocupate să utilizeze resursele de calcul inactive, indiferent de sistemul de operare al nodului.
Suport pentru Ollama și LM Studio Folosește instrumentele pe care le cunoști
Rulează NVIDIA PAIR alături de backend-urile de inferență locală familiare pe Windows, Linux și macOS. La lansare, NVIDIA PAIR acceptă Ollama și LM Studio, oferind aplicațiilor un punct final unic și consecvent, în timp ce redirecționează în mod inteligent solicitările prin proxy către resursele de calcul locale disponibile.
Inferență locală privată Ține lucrurile aproape de casă
Rulează fluxurile de lucru AI acasă cu datele care rămân în rețeaua ta. NVIDIA PAIR este construită pentru inferență locală privată, ajutându-te să utilizezi prompturile, fișierele și contextul agentului, fără a le trimite în cloud.
Cum să începi cu NVIDIA PAIR
NVIDIA PAIR funcționează fără cabluri sau rackuri speciale. Iar configurarea este ușoară.
2
Adaugă dispozitivele tale în cluster.
3
Rulează aplicațiile și agenții tăi AI.
Descarcă NVIDIA PAIR
Informații
Platformă
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
Limbă
Engleză
Cerințe de sistem
Placă grafică
Toate GPU-urile GeForce RTX (seria 20 și mai noi), DGX Spark/GB10, Mac M4 sau mai nou
RAM
8 GB RAM sau mai mult
Spațiu pe disc
Recomandat: 20 GB sau mai mult
Internet
Nu este necesar nimic pentru operare
Necesar pentru descărcarea modelului
Întrebări frecvente despre PAIR
NVIDIA Personal AI Router (PAIR) este software-ul care conectează sistemele macOS, Windows și Linux compatibile cu GPU-urile NVIDIA RTX™ și sistemele DGX Spark într-un cluster AI personal de acasă. PAIR distribuie sarcinile de lucru de inferență AI locale pe dispozitivele disponibile, păstrând în același timp prompturile, fișierele și contextul agentului în rețeaua de acasă a utilizatorului.
Un cluster AI personal de acasă conectează mai multe dispozitive compatibile din aceeași rețea locală, permițându-le să partajeze resursele de calcul disponibile pentru inferență AI locală. PAIR permite Mac-urilor, sistemelor NVIDIA RTX și sistemelor DGX Spark să ofere mai multă capacitate pentru aplicațiile și agenții AI locali. Dispozitivele rămân sisteme separate care se ocupă de sarcini în paralel; PAIR nu le combină într-un singur GPU virtual.
Descarcă PAIR, instalează-l pe sistemele acceptate, asociază dispozitivele din aceeași rețea locală și adaugă-le la cluster. După conectare, aplicațiile și agenții compatibili pot trimite cereri de inferență prin endpoint-ul local PAIR.
NVIDIA PAIR necesită sisteme macOS, Windows sau Linux compatibile și hardware suportat. Cerințele pot include versiuni specifice ale sistemului de operare, GPU-urile NVIDIA RTX, memoria GPU, memoria sistemului, procesoarele, stocarea și conectivitatea la rețeaua locală. Vezi secțiunea Cerințe de sistem de pe pagina de destinație NVIDIA PAIR pentru detalii actuale.
PAIR este conceput pentru inferență locală privată. Prompturile, fișierele și contextul agentului rămân în rețeaua locală a utilizatorului, în loc să fie trimise la un serviciu de inferență în cloud.
Resurse de suport PAIR
