NVIDIA Personal AI Router (PAIR)
Betaversjonen av NVIDIA PAIR kobler arbeidsflyter for KI-apper og -agenter til et enkelt lokalt endepunkt for ruting av inferens på tvers av NVIDIA DGX Spark™, Windows-systemer med RTX™ og macOS-enheter. Dette hjelper deg med å maksimere lokal databehandling, samtidig som ledetekster, filer og agentkonteksten holdes privat.
Funksjoner
Hva kan NVIDIA PAIR gjøre?
Privat KI-klynge Gi hjemmet et løft
Koble sammen RTX-, DGX™- og Mac-systemene som allerede er på nettverket ditt, på få minutter. NVIDIA PAIR oppdager kompatible lokale maskiner og hjelper dem med å fungere som én personlig KI-inferens-klynge uten behov for spesielle kabler, serverstativer eller komplekse klyngeoppsett.
Ruting av agentarbeidsbelastning Mer rom for å tenke
Oppretthold fremdriften i lokale KI-arbeidsflyter når oppgavene hoper seg opp. NVIDIA PAIR ruter KI-inferensforespørsler på tvers av tilgjengelige lokale noder, og hjelper travle KI-arbeidsflyter med å få tilgang til inaktiv databehandling uavhengig av nodens operativsystem.
Støtte for Ollama og LM Studio Bruk verktøyene du kjenner
Kjør NVIDIA PAIR sammen med kjente lokale inferens-backends på Windows, Linux og macOS. Når NVIDIA PAIR lanseres, støtter den Ollama og LM Studio, noe som gir apper et konsekvent enkelt endepunkt samtidig som forespørsler om tilgjengelig lokal databehandling proxies på en intelligent måte.
Privat lokal inferens Hold det lokalt
Kjør KI-arbeidsflyter hjemme med data som forblir på nettverket ditt. NVIDIA PAIR er bygget for privat lokal inferens, noe som hjelper deg med å bruke ledetekster, filer og agentkontekster uten å sende dem til skyen.
Slik kommer du i gang med NVIDIA PAIR
NVIDIA PAIR fungerer uten spesielle kabler eller rack. Og det er enkelt å konfigurere.
Last ned NVIDIA PAIR
Informasjon
Plattform
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
Språk
Engelsk
Systemkrav
GPU
Alle GeForce RTX-GPU-er (20-serien og nyere), DGX Spark/GB10, Mac M4 eller nyere
RAM
8 GB RAM eller høyere
Diskplass
Anbefalt: 20 GB eller mer
Internett
Ikke nødvendig for drift
Påkrevd for modellnedlasting
Ofte stilte spørsmål om PAIR
NVIDIA Personal AI Router (PAIR) er programvare som kobler kompatible macOS-, Windows- og Linux-systemer med NVIDIA RTX™ GPU-er og DGX Spark-systemer til en personlig KI-klynge for hjemmebruk. PAIR distribuerer arbeidsbelastninger for lokal KI-inferens på tvers av tilgjengelige enheter, samtidig som prompts, filer og agentkonteksten beholdes på brukerens hjemmenettverk.
En personlig KI-klynge for hjemmebruk kobler sammen flere kompatible enheter på samme lokale nettverk, noe som gjør at de kan dele tilgjengelige databehandlingsressurser for lokal KI-inferens. PAIR gjør det mulig for Macer, NVIDIA RTX-systemer og DGX Spark-systemer å gi mer kapasitet for lokale KI-programmer og -agenter. Enhetene forblir separate systemer som håndterer parallelle oppgaver; PAIR kombinerer dem ikke til én virtuell GPU.
Last ned PAIR, installer det på støttede systemer, par enhetene på samme lokale nettverk og legg dem til i klyngen. Når støttede programmer og agenter er tilkoblet, kan de sende forespørsler om inferens gjennom det lokale PAIR-endepunktet.
NVIDIA PAIR krever kompatible macOS-, Windows- eller Linux-systemer og støttet maskinvare. Krav kan inkludere spesifikke operativsystemversjoner, NVIDIA RTX GPU-er, GPU-minne, systemminne, prosessorer, lagring og lokal nettverkstilkobling. Se seksjonen for systemkrav på landingssiden for NVIDIA PAIR for oppdatert informasjon.
PAIR er designet for privat lokal inferens. Ledetekster, filer og agentkontekst forblir på brukerens lokale nettverk i stedet for å bli sendt til en skytjeneste for inferens.
Støtteressurser for PAIR
