NVIDIA Personal AI Router (PAIR)
NVIDIA PAIR (Beta-Version) verbindet KI-App- und Agenten-Workflows mit einem einzelnen lokalen Endpunkt für das Routing von Inferenz zwischen NVIDIA DGX Spark™, Windows-Systemen mit RTX™ und macOS-Geräten. Dies hilft dir, die lokale Rechenleistung zu maximieren und gleichzeitig Prompts, Dateien und den Agentenkontext privat zu halten.
Merkmale
Was kann NVIDIA PAIR leisten?
Persönlicher KI-Cluster Mehr Leistung für dein Netzwerk
Bring die RTX-, DGX™- und Mac-Systeme, die sich bereits in deinem Netzwerk befinden, in Minuten zusammen. NVIDIA PAIR entdeckt kompatible lokale Systeme und unterstützt ihr Zusammenwirken als ein persönliches KI-Inferenz-Cluster, ohne dass spezielle Kabel, Racks oder eine komplexe Cluster-Einrichtung erforderlich sind.
Agenten-Workload-Routing Mehr Kapazität für KI
Lokale KI-Workflows laufen weiter, wenn sich Aufgaben anschließen. NVIDIA PAIR routet KI-Inferenz-Anfragen zwischen verfügbaren lokalen Knoten und hilft ausgelasteten KI-Workflows, auf ungenutzte Rechenleistung zuzugreifen, unabhängig vom Betriebssystem des Knotens.
Ollama- und LM-Studio-Unterstützung Verwende die Tools, die du kennst
Nutze NVIDIA PAIR neben vertrauten lokalen Inferenz-Backends unter Windows, Linux und macOS. Bei der Einführung unterstützt NVIDIA PAIR Ollama und LM Studio und bietet Apps einen konsistenten, einzelnen Endpunkt, während Anforderungen intelligent an verfügbare lokale Rechenleistung weitergeleitet werden.
Private lokale Inferenz KI lokal nutzen
Führe KI-Workflows zu Hause mit Daten aus, die in deinem Netzwerk bleiben. NVIDIA PAIR wurde für private lokale Inferenz entwickelt und hilft dir, Prompts, Dateien und den Agentenkontext zu verwenden, ohne sie an die Cloud zu senden.
So startest du mit NVIDIA PAIR
NVIDIA PAIR funktioniert ohne spezielle Kabel oder Racks. Und die Einrichtung ist einfach.
2
Füge deine Geräte zum Cluster hinzu.
3
Starte deine KI-Apps und Agenten.
NVIDIA PAIR herunterladen
Informationen
Plattform
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
Sprache
Englisch
Systemanforderungen
Grafikkarte
Alle GeForce RTX-GPUs (20er-Serie und neuer), DGX Spark/GB10, Mac M4 oder neuer
RAM
8 GB RAM oder mehr
Platz auf dem Datenträger
Empfohlen: 20 GB oder mehr
Internet
Für den Betrieb nicht erforderlich
Für den Modell-Download erforderlich
Häufig gestellte Fragen zu PAIR
NVIDIA Personal AI Router (PAIR) ist Software, die kompatible macOS-, Windows- und Linux-Systeme mit NVIDIA RTX-GPUs und DGX-Spark-Systemen zu einem persönlichen KI-Cluster für zuhause verbindet. PAIR verteilt lokale KI-Inferenz-Workloads auf verfügbare Geräte und behält gleichzeitig Prompts, Dateien und den Agentenkontext im Heimnetzwerk des Benutzers.
Ein persönlicher KI-Cluster für zuhause verbindet mehrere kompatible Geräte im selben lokalen Netzwerk, sodass verfügbare Rechenressourcen für die lokale KI-Inferenz gemeinsam genutzt werden können. PAIR ermöglicht es Macs, NVIDIA RTX-Systemen und DGX-Spark-Systemen, mehr Kapazität für lokale KI-Anwendungen und -Agenten zu bieten. Die Geräte bleiben separate Systeme, die parallele Aufgaben erledigen; PAIR kombiniert sie nicht zu einer virtuellen GPU.
Lade PAIR herunter, installiere es auf unterstützten Systemen, kopple die Geräte im gleichen lokalen Netzwerk und füge sie zum Cluster hinzu. Sobald die Verbindung hergestellt ist, können unterstützte Anwendungen und Agenten Inferenz-Anfragen über den lokalen PAIR-Endpunkt senden.
NVIDIA PAIR erfordert kompatible macOS-, Windows- oder Linux-Systeme und unterstützte Hardware. Die Anforderungen können bestimmte Betriebssystemversionen, NVIDIA RTX-GPUs, GPU-Speicher, Systemspeicher, Prozessoren, Datenspeicher und lokale Netzwerkkonnektivität beinhalten. Details findest du im Abschnitt Systemanforderungen auf der NVIDIA-PAIR-Landingpage.
PAIR ist für private lokale Inferenz konzipiert. Prompts, Dateien und der Agentenkontext verbleiben im lokalen Netzwerk des Benutzers, anstatt an einen Cloud-Inferenzdienst gesendet zu werden.
PAIR-Support-Ressourcen
