NVIDIA Personal AI Router (PAIR) je software, který propojuje kompatibilní systémy macOS, Windows a Linux s grafickými kartami NVIDIA RTX a systémy DGX Spark do osobního domácího AI clusteru. PAIR distribuuje lokální pracovní zatížení umělé inteligence mezi dostupná zařízení a zároveň zajišťuje, že prompty, soubory a kontext pro agenta zůstávají v domácí síti uživatele.
Osobní domácí AI cluster propojuje několik kompatibilních zařízení v rámci jedné lokální sítě a umožňuje jim sdílet dostupné výpočetní zdroje pro lokální AI inferenci. PAIR umožňuje počítačům Mac, NVIDIA RTX a DGX Spark poskytovat větší kapacitu pro lokální AI aplikace a agenty. Zařízení v rámci clusteru fungují jako samostatné systémy, které zpracovávají paralelní úkoly; PAIR je nespojuje do jedné virtuální grafické karty.
Uzel je kompatibilní systém, který byl spárován s NVIDIA PAIR a zpřístupněn lokálnímu AI clusteru. Uzly mohou zahrnovat podporované počítače Mac, PC nebo pracovní stanice NVIDIA RTX a systémy DGX Spark.
Ano. NVIDIA PAIR může spárovat podporované systémy macOS s kompatibilními PC a pracovními stanicemi NVIDIA RTX nebo systémy DGX Spark ve stejné lokální síti. To umožňuje uživatelům Macu směrovat lokální pracovní zatížení umělé inteligence na dostupné výpočetní zdroje NVIDIA.
Ano. PAIR objevuje kompatibilní systémy NVIDIA RTX a DGX Spark ve stejné lokální síti a pomáhá jim spolupracovat v rámci jediného osobního AI inferenčního clusteru. Úloha může využívat dostupný výpočetní výkon na více zařízeních místo toho, aby se spoléhala na jeden počítač.
Ano. NVIDIA PAIR podporuje kompatibilní systémy macOS, Windows a Linux. Podporovaný hardware, verze operačního systému a konfigurace zařízení se mohou lišit, proto si před instalací přečti aktuální systémové požadavky.
NVIDIA PAIR vyžaduje kompatibilní systémy macOS, Windows nebo Linux a podporovaný hardware. Požadavky mohou zahrnovat specifické verze operačního systému, grafické karty NVIDIA RTX, paměť GPU, systémovou paměť, procesory, úložiště a připojení k lokální síti. Aktuální podrobnosti najdeš v části Systémové požadavky na vstupní stránce NVIDIA PAIR.
Ano. Podporovaný Mac lze přidat jako uzel vedle PC nebo pracovních stanic NVIDIA RTX a systémů DGX Spark. PAIR koordinuje spárovaná zařízení pro lokální pracovní postupy umělé inteligence a zároveň zajišťuje, že prompty, soubory a kontext agenta zůstávají v lokální síti.
PAIR routuje požadavky na inferenci na dostupná zařízení v lokálním clusteru. Když je jedno zařízení zaneprázdněno nebo dosáhne své dostupné kapacity, PAIR může přesměrovat požadavky na jiné kompatibilní uzly a snižuje tak riziko přetížení během náročných pracovních postupů využívajících umělou inteligencí a agenty.
Ano. PAIR podporuje lokální AI aplikace, agenty i pracovní postupy s více agenty, které generují vícenásobné nebo sekvenční inferenční požadavky. Tím, že PAIR rozděluje požadavky mezi různé spárované systémy, pomáhá zpřístupnit více lokálního výpočetního výkonu pro náročné úlohy.
Ano. PAIR podporuje Ollama a LM Studio jako lokální inferenční backendy. Aplikace mohou používat lokální koncový bod, zatímco PAIR přesměrovává inferenční požadavky na dostupný výpočetní výkon v rámci osobního AI clusteru.
Nejsou nutné žádné zásadní změny aplikací ani agentů. PAIR poskytuje jediný lokální koncový bod, přesměrovává podporované požadavky Ollama a LM Studio a výrazně tak snižuje potřebu konfigurace aplikací pro každé jednotlivé zařízení.
PAIR je určen pro soukromou lokální inferenci. Prompty, soubory a kontext agenta zůstávají v lokální síti uživatele a neodesílají se do cloudové inferenční služby.
Ne. PAIR používá kompatibilní zařízení, která jsou již připojená k lokální síti. Nevyžaduje speciální kabely, serverové racky ani tradiční clusterový hardware datových center.
Stáhni si PAIR, nainstaluj jej na podporované systémy, spáruj zařízení ve stejné lokální síti a přidej je do clusteru. Po připojení mohou podporované aplikace a agenti odesílat požadavky na inferenci prostřednictvím lokálního koncového bodu PAIR.
Stáhni si NVIDIA PAIR z oficiálních stránek NVIDIA PAIR. Na webové stránce jsou také uvedeny aktuální systémové požadavky, pokyny k instalaci a další časté dotazy.
PAIR poskytuje opakovaně použitelnou lokální vrstvu pro routování inference – s párováním zařízení, zjišťováním uzlů, přístupem ke koncovým bodům, proxy přesměrování k backendu a směrováním úloh. Vlastní skript obvykle vyžaduje, aby vývojáři spravovali dostupnost zařízení, koncové body, porty a konfiguraci aplikací pro každý pracovní postup.