NVIDIA Personal AI-router (PAIR)
NVIDIA PAIR-beta ansluter arbetsflöden för AI-appar och agenter till en enda lokal slutpunkt för routning av inferens över NVIDIA DGX Spark™, Windows-system med RTX™ och macOS-enheter. Detta hjälper dig att maximera lokal beräkningskraft samtidigt som prompter, filer och agentkontext hålls privata.
Funktioner
Vad kan NVIDIA PAIR göra?
Personligt AI-kluster Starta upp huset
Koppla ihop RTX-, DGX™- och Mac-systemen som redan finns i ditt nätverk på några minuter. NVIDIA PAIR upptäcker kompatibla lokala maskiner och hjälper dem att fungera som ett personligt AI-inferenskluster utan krav på speciella kablar, rack eller någon komplex klusterkonfiguration.
Dirigering av agenters arbetsbelastning Mer utrymme att tänka
Håll lokala AI-arbetsflöden igång när uppgifterna hopar sig. NVIDIA PAIR dirigerar AI-inferensförfrågningar till tillgängliga lokala noder, vilket hjälper upptagna AI-arbetsflöden att utnyttja inaktiv beräkningskraft oavsett nodens operativsystem.
Stöd för Ollama och LM Studio Använd de verktyg du känner till
Kör NVIDIA PAIR tillsammans med välbekanta lokala inferens-backends på Windows, Linux och macOS. Vid lansering stöder NVIDIA PAIR Ollama och LM Studio, vilket ger appar en konsekvent, gemensam slutpunkt samtidigt som förfrågningar skickas vidare till tillgängliga lokala beräkningsresurser på ett intelligent sätt.
Privat lokal inferens Håll det på hemmaplan
Kör AI-arbetsflöden hemma med data som stannar i ditt nätverk. NVIDIA PAIR är byggt för privat lokal inferens, vilket hjälper dig att använda prompter, filer och agentkontext utan att skicka dem till molnet.
Så här kommer du igång med NVIDIA PAIR
NVIDIA PAIR fungerar utan speciella kablar eller rack. Och det är enkelt att ställa in.
Ladda ner NVIDIA PAIR
Information
Plattform
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
Språk
Engelska
Systemkrav
Grafikkort
Alla GeForce RTX-GPU:er (20-serien och nyare), DGX Spark/GB10, Mac M4 eller nyare
RAM
8 GB RAM eller mer
Diskutrymme
Rekommenderas: 20 GB eller mer
Internet
Krävs inte för drift
Krävs för nedladdning av modeller
Vanliga frågor om PAIR
NVIDIA Personal AI-router (PAIR) är programvara som ansluter kompatibla macOS-, Windows- och Linux-system med NVIDIA RTX™-GPU:er och DGX Spark-system till ett personligt AI-kluster för hemmet. PAIR distribuerar lokala AI-inferensarbetsbelastningar över tillgängliga enheter samtidigt som prompter, filer och agentkontext hålls på användarens hemnätverk.
Ett personligt AI-kluster för hemmet ansluter flera kompatibla enheter på samma lokala nätverk, vilket gör att de kan dela tillgängliga beräkningsresurser för lokal AI-inferens. PAIR gör det möjligt för Mac-datorer, NVIDIA RTX-system och DGX Spark-system att ge mer kapacitet för lokala AI-applikationer och agenter. Enheterna förblir separata system som hanterar parallella uppgifter; PAIR kombinerar dem inte till en virtuell GPU.
Ladda ner PAIR, installera det på system som stöds, para ihop enheterna på samma lokala nätverk och lägg till dem i klustret. När de väl har anslutits kan applikationer och agenter som stöds skicka inferensförfrågningar via den lokala PAIR-slutpunkten.
NVIDIA PAIR kräver kompatibla macOS-, Windows- eller Linux-system och maskinvara som stöds. Krav kan inkludera specifika operativsystemversioner, NVIDIA RTX-GPU:er, GPU-minne, systemminne, processorer, lagring och lokal nätverksanslutning. Se avsnittet Systemkrav på NVIDIA PAIR-landningssidan för aktuell information.
PAIR är utformat för privat lokal inferens. Promptar, filer och agentkontext stannar kvar på användarens lokala nätverk i stället för att skickas till en inferenstjänst i molnet.
Supportresurser för PAIR
