NVIDIA Personal AI Router (PAIR) ist Software, die kompatible macOS-, Windows- und Linux-Systeme mit NVIDIA RTX™ GPUs und DGX Spark-Systemen zu einem persönlichen KI-Heimcluster verbindet. PAIR verteilt lokale KI-Inferenz-Workloads auf verfügbaren Geräten und behält gleichzeitig Prompts, Dateien und den Agentenkontext im Heimnetzwerk des Benutzers bei.
Ein persönlicher KI-Heimcluster verbindet mehrere kompatible Geräte im gleichen lokalen Netzwerk, sodass diese verfügbare Rechenressourcen für lokale KI-Inferenz gemeinsam nutzen können. PAIR ermöglicht es Macs, NVIDIA RTX-Systemen und DGX Spark-Systemen, mehr Kapazität für lokale KI-Anwendungen und Agenten bereitzustellen. Die Geräte bleiben separate Systeme, die parallele Aufgaben erledigen; PAIR kombiniert sie nicht zu einer virtuellen GPU.
Ein Knoten ist ein kompatibles System, das mit NVIDIA PAIR gekoppelt und für den lokalen KI-Cluster verfügbar gemacht wurde. Knoten können unterstützte Macs, NVIDIA RTX-PCs oder -Workstations sowie DGX Spark-Systeme sein.
Ja. NVIDIA PAIR kann unterstützte macOS-Systeme mit kompatiblen NVIDIA RTX-PCs oder -Workstations und DGX Spark-Systemen im gleichen lokalen Netzwerk koppeln. Dies ermöglicht es Mac-Benutzern, lokale KI-Inferenz-Workloads an verfügbare NVIDIA-Rechenressourcen weiterzuleiten.
Ja. PAIR entdeckt kompatible NVIDIA RTX- und DGX Spark-Systeme im gleichen lokalen Netzwerk und hilft ihnen, als ein einziger persönlicher KI-Inferenz-Cluster zu arbeiten. Workloads können verfügbare Rechenleistung auf mehreren Geräten verwenden, anstatt sich auf einen einzigen Computer verlassen zu müssen.
Ja. NVIDIA PAIR unterstützt kompatible macOS-, Windows- und Linux-Systeme. Unterstützte Hardware, Betriebssystem-Versionen und Gerätekonfigurationen können variieren, überprüfe daher vor der Installation die aktuellen Systemanforderungen.
NVIDIA PAIR erfordert kompatible macOS-, Windows- oder Linux-Systeme sowie unterstützte Hardware. Zu den Anforderungen können bestimmte Betriebssystem-Versionen, NVIDIA RTX-GPUs, GPU-Speicher, Systemspeicher, Prozessoren, Datenspeicher und lokale Netzwerkkonnektivität gehören. Aktuelle Details findest du im Abschnitt Systemanforderungen auf der NVIDIA PAIR-Landingpage.
Ja. Ein unterstützter Mac kann als Knoten neben NVIDIA RTX-PCs, Workstations und DGX Spark-Systemen hinzugefügt werden. PAIR koordiniert die gepaarten Geräte für lokale KI-Workflows und behält gleichzeitig Prompts, Dateien und den Agentenkontext im lokalen Netzwerk bei.
PAIR leitet Inferenz-Anfragen an verfügbare Geräte im lokalen Cluster weiter. Wenn ein Gerät ausgelastet ist oder seine verfügbare Kapazität erreicht, kann PAIR Anfragen an andere kompatible Knoten weiterleiten und so dazu beitragen, Engpässe während anspruchsvoller KI- und Agenten-Workflows zu reduzieren.
Ja. PAIR unterstützt lokale KI-Anwendungen, Agenten und Multi-Agent-Workflows, die mehrere oder sequentielle Inferenz-Anforderungen generieren. Durch das Routing von Anforderungen über gekoppelte Systeme trägt PAIR dazu bei, mehr lokale Rechenleistung für anspruchsvolle Aufgaben verfügbar zu machen.
Ja. PAIR unterstützt Ollama und LM Studio als lokale Inferenz-Backends. Anwendungen können einen lokalen Endpunkt verwenden, während PAIR Inferenzanfragen über einen Proxy an verfügbare Rechenleistung im persönlichen KI-Cluster weiterleitet.
Es sind keine größeren Änderungen an Anwendungen oder Agenten erforderlich. PAIR bietet einen einzigen lokalen Endpunkt und leitet unterstützte Ollama- und LM Studio-Anfragen über einen Proxy weiter, wodurch die Notwendigkeit entfällt, Anwendungen für jedes einzelne Gerät zu konfigurieren.
PAIR wurde für private lokale Inferenz konzipiert. Prompts, Dateien und der Agentenkontext verbleiben im lokalen Netzwerk des Benutzers, anstatt an einen Cloud-Inferenz-Dienst gesendet zu werden.
Nein. PAIR verwendet kompatible Geräte, die bereits mit dem lokalen Netzwerk verbunden sind. Es sind keine speziellen Kabel, Server-Racks oder herkömmliche Rechenzentrum-Cluster-Hardware erforderlich.
Lade PAIR herunter, installiere es auf unterstützten Systemen, kopple die Geräte im gleichen lokalen Netzwerk und füge sie zum Cluster hinzu. Sobald die Verbindung hergestellt ist, können unterstützte Anwendungen und Agenten Inferenz-Anfragen über den lokalen PAIR-Endpunkt senden.
Lade NVIDIA PAIR von der offiziellen NVIDIA PAIR-Website herunter. Die Website bietet auch aktuelle Systemanforderungen, Installationsanleitungen und zusätzliche FAQ.
PAIR bietet eine wiederverwendbare lokale Inferenz-Routing-Layer mit Geräte-Pairing, Knotenentdeckung, Endpunkt-Zugriff, Backend-Proxy und Workload-Routing. Ein benutzerdefiniertes Skript erfordert in der Regel, dass Entwickler die Geräteverfügbarkeit, die Endpunkte, die Ports und die Anwendungskonfiguration für jeden Workflow verwalten.