NVIDIA Personal AI Router (PAIR)
NVIDIA PAIR -beeta yhdistää tekoälysovelluksen ja agenttityönkulut yhteen paikalliseen päätepisteeseen inferenssin reitittämiseksi NVIDIA DGX Spark™ -järjestelmissä, RTX:tä hyödyntävissä Windows-järjestelmissä ja macOS-laitteissa. Tämä auttaa sinua maksimoimaan paikallisen laskennan ja pitämään kehotukset, tiedostot ja agenttikontekstin yksityisinä.
Ominaisuudet
Mitä NVIDIA PAIR voi tehdä?
Henkilökohtainen tekoälyklusteri Virtaa taloon
Yhdistä verkossasi jo olevat RTX-, DGX- ja Mac-järjestelmät muutamassa minuutissa. NVIDIA PAIR tunnistaa yhteensopivat paikalliset koneet ja auttaa niitä toimimaan yhtenä henkilökohtaisena tekoälyinferenssiklusterina ilman erikoiskaapeleita, räkkejä tai monimutkaisia klusterikokoonpanoja.
Agenttien työkuormituksen reititys Enemmän tilaa ajattelulle
Pidä paikalliset tekoälytyönkulut liikkeessä, kun tehtävät kasaantuvat. NVIDIA PAIR reitittää tekoälyinferenssipyynnöt saatavilla olevien paikallisten solmujen kautta, auttaen kiireisiä tekoälytyönkulkuja hyödyntämään käyttämätöntä laskentatehoa solmun käyttöjärjestelmästä riippumatta.
Ollama- ja LM Studio -tuki Käytä tuttuja työkaluja
Suorita NVIDIA PAIR tuttujen paikallisten inferenssitaustajärjestelmien rinnalla Windows-, Linux- ja macOS-järjestelmissä. NVIDIA PAIR julkistaa tuen Ollamalle ja LM Studiolle, joten se tarjoaa sovelluksille yhtenäisen päätepisteen ja välittää pyynnöt älykkäästi saatavilla olevaan paikalliseen laskentaan.
Yksityinen paikallinen inferenssi Pidä tiedot paikallisina
Suorita tekoälytyönkulkuja kotona datalla, joka pysyy verkossasi. NVIDIA PAIR on rakennettu yksityiseen paikalliseen inferenssiin, joten voit käyttää kehotuksia, tiedostoja ja agenttikontekstia lähettämättä niitä pilvipalveluun.
Näin pääset alkuun NVIDIA PAIRin kanssa
NVIDIA PAIR toimii ilman erikoiskaapeleita tai kehyksiä. Sen määrittäminen onnistuu helposti.
Lataa NVIDIA PAIR
Tiedot
Alusta
Windows 11, DGX-käyttöjärjestelmä, Ubuntu 14.04, macOS Tahoe
kieli
Englanti
Järjestelmävaatimukset
Näytönohjain
Kaikki GeForce RTX -grafiikkasuorittimet (20-sarja ja uudemmat), DGX Spark/GB10, Mac M4 tai uudempi
RAM-muisti
8 Gt RAM tai enemmän
Levytila
Suositus: 20 Gt tai enemmän
Internet
Ei vaadita käyttöön.
Pakollinen mallin lataukseen.
Usein kysytyt kysymykset PAIR:stä
NVIDIA Personal AI Router (PAIR) on ohjelmisto, joka yhdistää yhteensopivat macOS-, Windows- ja Linux-järjestelmät sekä NVIDIA RTX™ -grafiikkasuorittimet ja DGX Spark -järjestelmät henkilökohtaiseksi kodin tekoälyklusteriksi. PAIR jakaa paikalliset tekoälyinferenssin työkuormat saatavilla oleville laitteille ja pitää kehotukset, tiedostot ja agenttikontekstin käyttäjän kotiverkossa.
Henkilökohtainen kodin tekoälyklusteri yhdistää useita yhteensopivia laitteita samaan paikallisverkkoon, joten ne voivat jakaa saatavilla olevia laskentaresursseja paikalliseen tekoälyinferenssiin. PAIR mahdollistaa sen, että Macit, NVIDIA RTX -järjestelmät ja DGX Spark -järjestelmät tarjoavat enemmän kapasiteettia paikallisille tekoälysovelluksille ja -agenteille. Laitteet ovat edelleen erillisiä järjestelmiä, jotka käsittelevät rinnakkaisia tehtäviä. PAIR ei yhdistä niitä yhdeksi virtuaaliseksi grafiikkasuorittimeksi.
Lataa PAIR, asenna se tuettuihin järjestelmiin, pari samassa paikallisverkossa olevat laitteet ja lisää ne klusteriin. Yhteyden muodostamisen jälkeen tuetut sovellukset ja agentit voivat lähettää inferenssipyyntöjä PAIR-paikallisen päätepisteen kautta.
NVIDIA PAIR edellyttää yhteensopivia macOS-, Windows- tai Linux-järjestelmiä ja tuettuja laitteistoja. Vaatimuksiin voivat kuulua tietyt käyttöjärjestelmäversiot, NVIDIA RTX -grafiikkasuorittimet, grafiikkasuorittimen muisti, järjestelmämuisti, suorittimet, tallennustila sekä paikallisverkkoyhteydet. Ajankohtaiset tiedot ovat NVIDIA PAIR -aloitussivun Järjestelmävaatimukset-osiossa.
PAIR on suunniteltu yksityiseen paikalliseen inferenssiin. Kehotteet, tiedostot ja agenttikonteksti pysyvät käyttäjän paikallisverkossa sen sijaan, että ne lähetettäisiin pilvipohjaiseen inferenssipalveluun.
PAIR-tukiresurssit
