NVIDIA Personal AI Router (PAIR)
Beta verze NVIDIA PAIR propojuje pracovní postupy AI aplikací a agentů do jediného lokálního koncového bodu pro routování inference napříč zařízeními NVIDIA DGX Spark™, systémy s Windows a RTX™ a zařízeními s macOS. Díky tomu můžeš maximalizovat lokální výpočetní výkon a zároveň zajistit, že prompty, soubory a kontext pro agenta zůstanou v soukromí.
Funkce
Co dokáže NVIDIA PAIR?
Osobní AI cluster Využij sílu domácí sítě
Během několika minut propoj systémy RTX, DGX™ a Mac ve své síti. NVIDIA PAIR rozpoznává kompatibilní lokální počítače a pomáhá jim pracovat jako jeden osobní inferenční cluster pro umělou inteligenci, aniž by bylo nutné používat speciální kabely, racky nebo složité nastavení clusteru.
Routování pracovní zátěže agentů Více prostoru na přemýšlení
Udržuj lokální AI pracovní postupy v chodu, když se úlohy nahromadí. NVIDIA PAIR routuje požadavky na inferenci AI mezi více dostupných lokálních uzlů a pomáhá tak náročným úlohám umělé inteligence využívat volný výpočetní výkon bez ohledu na operační systém konkrétního uzlu.
Podpora Ollama a LM Studio Používej nástroje, které znáš
Spouštěj NVIDIA PAIR spolu se známými lokálními inferenčními backendy na Windows, Linuxu a macOS. Už při uvedení na trh podporuje NVIDIA PAIR platformy Ollama a LM Studio, čímž aplikacím poskytuje konzistentní, jednotný koncový bod a zároveň inteligentně routuje požadavky na dostupný lokální výpočetní výkon.
Soukromá lokální inference Měj všechno na dosah ruky
Provozuj pracovní postupy AI doma a zajisti, že data zůstanou ve tvé síti. NVIDIA PAIR je navržený pro soukromou lokální inferenci, takže můžeš využívat prompty, soubory a kontext agentů, aniž by je bylo nutné odesílat do cloudu.
Jak začít s NVIDIA PAIR
NVIDIA PAIR funguje bez speciálních kabelů nebo racků. A instalace je snadná.
Stáhnout NVIDIA PAIR
Informace
Platforma
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
Jazyk
Angličtina
Systémové požadavky
Grafická karta
Všechny grafické karty GeForce RTX (řady 20 a novější), DGX Spark/GB10, Mac M4 nebo novější
RAM
8 GB RAM nebo více
Místo na disku
Doporučeno: 20 GB nebo více
Internet
Nevyžaduje se pro fungování.
Vyžaduje se pro stažení modelu
Časté dotazy o PAIR
NVIDIA Personal AI Router (PAIR) je software, který propojuje kompatibilní systémy macOS, Windows a Linux s grafickými kartami NVIDIA RTX a systémy DGX Spark do osobního domácího AI clusteru. PAIR distribuuje lokální pracovní zatížení umělé inteligence mezi dostupná zařízení a zároveň zajišťuje, že prompty, soubory a kontext pro agenta zůstávají v domácí síti uživatele.
Osobní domácí AI cluster propojuje několik kompatibilních zařízení v rámci jedné lokální sítě a umožňuje jim sdílet dostupné výpočetní zdroje pro lokální AI inferenci. PAIR umožňuje počítačům Mac, NVIDIA RTX a DGX Spark poskytovat větší kapacitu pro lokální AI aplikace a agenty. Zařízení v rámci clusteru fungují jako samostatné systémy, které zpracovávají paralelní úkoly; PAIR je nespojuje do jedné virtuální grafické karty.
Stáhni si PAIR, nainstaluj jej na podporované systémy, spáruj zařízení ve stejné lokální síti a přidej je do clusteru. Po připojení mohou podporované aplikace a agenti odesílat požadavky na inferenci prostřednictvím lokálního koncového bodu PAIR.
NVIDIA PAIR vyžaduje kompatibilní systémy macOS, Windows nebo Linux a podporovaný hardware. Požadavky mohou zahrnovat specifické verze operačního systému, grafické karty NVIDIA RTX, paměť GPU, systémovou paměť, procesory, úložiště a připojení k lokální síti. Aktuální podrobnosti najdeš v části Systémové požadavky na vstupní stránce NVIDIA PAIR.
PAIR je určen pro soukromou lokální inferenci. Prompty, soubory a kontext agenta zůstávají v lokální síti uživatele a neodesílají se do cloudové inferenční služby.
Zdroje podpory pro PAIR
