Router NVIDIA Personal AI (PAIR)
Wersja beta NVIDIA PAIR łączy aplikację AI i przepływy pracy agenta z jednym lokalnym punktem końcowym w celu kierowania wnioskowaniem między NVIDIA DGX Spark, systemami Windows z RTX™ i urządzeniami z macOS. Pomaga to zmaksymalizować lokalne obliczenia przy zachowaniu prywatności promptów, plików i kontekstu agenta.
Funkcje
Co może zrobić NVIDIA PAIR?
Osobisty klaster AI Zwiększ możliwości domu
W ciągu kilku minut możesz połączyć systemy RTX, DGX™ i Mac już w swojej sieci. NVIDIA PAIR wykrywa kompatybilne maszyny lokalne i pomaga im pracować jako jeden osobisty klaster wnioskowania AI bez konieczności korzystania ze specjalnych kabli, stojaków ani złożonej konfiguracji klastra.
Agent Workload Routing Więcej miejsca do myślenia
Nie przerywaj lokalnych przepływów pracy AI, gdy zadań przybywa. NVIDIA PAIR kieruje żądania wnioskowania AI między dostępnymi węzłami lokalnymi, pomagając zapracowanym przepływom pracy AI wykorzystywać bezczynne moce obliczeniowe, niezależnie od systemu operacyjnego węzła.
Obsługa Ollama i LM Studio Użyj znanych narzędzi
Uruchamiaj NVIDIA PAIR wraz ze znanymi lokalnymi backendami wnioskowania w systemach Windows, Linux i macOS. W momencie pojawienia się na rynku NVIDIA PAIR obsługuje Ollama i LM Studio, zapewniając aplikacjom spójny, jednolity punkt końcowy i inteligentnie przekazując żądania do dostępnych lokalnych zasobów obliczeniowych.
Prywatne lokalne wnioskowanie Niech pozostanie w domu
Uruchamiaj przepływy pracy AI w domu na danych, które pozostają w sieci. NVIDIA PAIR jest stworzony do prywatnego wnioskowania lokalnego, co pomaga korzystać z promptów, plików i kontekstu agenta bez wysyłania ich do chmury.
Jak zacząć pracę z NVIDIA PAIR
NVIDIA PAIR działa bez specjalnych kabli ani stojaków. Konfiguracja jest prosta.
Pobierz NVIDIA PAIR
Informacje
Platforma
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
Język
Angielski
Wymagania systemowe
GPU
Wszystkie układy GPU GeForce RTX (z serii 20 i nowsze), DGX Spark/GB10, Mac M4 lub nowsze
RAM
8 GB pamięci RAM lub więcej
Miejsce na dysku
Zalecane: 20 GB lub więcej
Łącze internetowe
Niewymagane do działania.
Wymagane do pobrania modelu
Często zadawane pytania dotyczące PAIR
NVIDIA Personal AI Router (PAIR) to oprogramowanie, które łączy kompatybilne systemy macOS, Windows i Linux z układami GPU NVIDIA RTX™ i systemami DGX Spark w osobisty domowy klaster AI. PAIR rozprowadza lokalne obciążenia wnioskowaniem AI na dostępne urządzenia, zachowując prompty, pliki i kontekst agenta w sieci domowej użytkownika.
Osobisty domowy klaster AI łączy wiele kompatybilnych urządzeń w tej samej sieci lokalnej, co umożliwia współdzielenie dostępnych zasobów obliczeniowych na potrzeby lokalnego wnioskowania AI. PAIR umożliwia komputerom Mac, systemom NVIDIA RTX i systemom DGX Spark zapewnienie większej mocy obliczeniowej lokalnym aplikacjom i agentom AI. Urządzenia pozostają oddzielnymi systemami, które obsługują zadania równolegle; PAIR nie łączy ich w jeden wirtualny GPU.
Pobierz PAIR, zainstaluj go na obsługiwanych systemach, sparuj urządzenia w tej samej sieci lokalnej i dodaj je do klastra. Po połączeniu obsługiwane aplikacje i agenty mogą wysyłać żądania wnioskowania za pośrednictwem lokalnego punktu końcowego PAIR.
NVIDIA PAIR wymaga kompatybilnych systemów macOS, Windows lub Linux oraz obsługiwanego sprzętu. Wymagania mogą obejmować określone wersje systemów operacyjnych, układy GPU NVIDIA RTX, pamięć GPU, pamięć systemową, procesory, pamięć masową i łączność z siecią lokalną. Aktualne SZCZEGÓŁY znajdziesz w sekcji Wymagania systemowe na stronie docelowej NVIDIA PAIR.
PAIR jest przeznaczony do prywatnego wnioskowania lokalnego. Prompty, pliki i kontekst agenta pozostają w sieci lokalnej użytkownika, zamiast być wysyłane do usługi wnioskowania w chmurze.
Zasoby obsługi PAIR
