NVIDIA Personal AI Router (PAIR) on ohjelmisto, joka yhdistää yhteensopivat macOS-, Windows- ja Linux-järjestelmät sekä NVIDIA RTX™ -grafiikkasuorittimet ja DGX Spark -järjestelmät henkilökohtaiseksi kodin tekoälyklusteriksi. PAIR jakaa paikalliset tekoälyinferenssin työkuormat saatavilla oleville laitteille ja pitää kehotukset, tiedostot ja agenttikontekstin käyttäjän kotiverkossa.
Henkilökohtainen kodin tekoälyklusteri yhdistää useita yhteensopivia laitteita samaan paikallisverkkoon, joten ne voivat jakaa saatavilla olevia laskentaresursseja paikalliseen tekoälyinferenssiin. PAIR mahdollistaa sen, että Macit, NVIDIA RTX -järjestelmät ja DGX Spark -järjestelmät tarjoavat enemmän kapasiteettia paikallisille tekoälysovelluksille ja -agenteille. Laitteet ovat edelleen erillisiä järjestelmiä, jotka käsittelevät rinnakkaisia tehtäviä. PAIR ei yhdistä niitä yhdeksi virtuaaliseksi grafiikkasuorittimeksi.
Solmu on yhteensopiva järjestelmä, joka on yhdistetty NVIDIA PAIR -tekniikkaan ja annettu paikallisen tekoälyklusterin käyttöön. Solmuihin voi kuulua tuettuja Maceja, NVIDIA RTX -PC-tietokoneita tai -työasemia sekä DGX Spark -järjestelmiä.
Kyllä. NVIDIA PAIR voi yhdistää tuetut macOS-järjestelmät yhteensopiviin NVIDIA RTX -tietokoneisiin, -työasemiin ja -järjestelmiin samassa paikallisverkossa. Sen ansiosta Mac-käyttäjät voivat ohjata paikallisia tekoälyinferenssityökuormia käytettävissä oleviin NVIDIA-laskentaresursseihin.
Kyllä. PAIR tunnistaa yhteensopivat NVIDIA RTX- ja DGX Spark -järjestelmät samassa paikallisverkossa ja auttaa niitä toimimaan yhtenä henkilökohtaisena tekoälyinferenssiklusterina. Työkuormat voivat käyttää saatavilla olevaa laskentaa useilla laitteilla sen sijaan, että ne turvautuisivat vain yhteen koneeseen.
Kyllä. NVIDIA PAIR tukee yhteensopivia macOS-, Windows- ja Linux-järjestelmiä. Tuetut laitteistot, käyttöjärjestelmäversiot ja laitekokoonpanot voivat vaihdella, joten tarkista nykyiset järjestelmävaatimukset ennen asennusta.
NVIDIA PAIR edellyttää yhteensopivia macOS-, Windows- tai Linux-järjestelmiä ja tuettuja laitteistoja. Vaatimuksiin voivat kuulua tietyt käyttöjärjestelmäversiot, NVIDIA RTX -grafiikkasuorittimet, grafiikkasuorittimen muisti, järjestelmämuisti, suorittimet, tallennustila sekä paikallisverkkoyhteydet. Ajankohtaiset tiedot ovat NVIDIA PAIR -aloitussivun Järjestelmävaatimukset-osiossa.
Kyllä. Tuettu Mac voidaan lisätä solmuksi NVIDIA RTX -PC:iden, -työasemien ja DGX Spark -järjestelmien rinnalle. PAIR koordinoi paikallisten tekoälytyönkulkujen pariksi liitettyjä laitteita ja pitää kehotukset, tiedostot ja agenttikontekstin paikallisessa verkossa.
PAIR reitittää inferenssipyynnöt paikallisen klusterin käytettävissä oleviin laitteisiin. Kun yksi laite on varattu tai se saavuttaa käytettävissä olevan kapasiteettinsa, PAIR voi ohjata pyyntöjä muihin yhteensopiviin solmuihin, mikä auttaa vähentämään pullonkauloja vaativien tekoäly- ja agenttityönkulkujen aikana.
Kyllä. PAIR tukee paikallisia tekoälysovelluksia, agentteja ja usean agentin työnkulkuja, jotka luovat useita tai peräkkäisiä inferenssipyyntöjä. Reitittämällä pyynnöt pariyhdistettyjen järjestelmien välillä PAIR auttaa tarjoamaan enemmän paikallista laskentaa vaativiin tehtäviin.
Kyllä. PAIR tukee Ollamaa ja LM Studiota paikallisina inferenssitaustajärjestelminä. Sovellukset voivat käyttää paikallista päätepistettä, ja PAIR välittää inferenssipyynnöt henkilökohtaisen tekoälyklusterin käytettävissä olevaan laskentakapasiteettiin.
Suuria sovellus- tai agenttimuutoksia ei tarvita. PAIR tarjoaa yhden paikallisen päätepisteen ja välittää tuetut Ollama- ja LM Studio -pyynnöt, mikä vähentää tarvetta määrittää sovelluksia kullekin laitteelle erikseen.
PAIR on suunniteltu yksityiseen paikalliseen inferenssiin. Kehotteet, tiedostot ja agenttikonteksti pysyvät käyttäjän paikallisverkossa sen sijaan, että ne lähetettäisiin pilvipohjaiseen inferenssipalveluun.
Ei. PAIR käyttää yhteensopivia laitteita, jotka on jo yhdistetty paikallisverkkoon. Se ei vaadi erikoiskaapeleita, palvelinkehyksiä tai perinteistä datakeskusklusterilaitteistoa.
Lataa PAIR, asenna se tuettuihin järjestelmiin, pari samassa paikallisverkossa olevat laitteet ja lisää ne klusteriin. Yhteyden muodostamisen jälkeen tuetut sovellukset ja agentit voivat lähettää inferenssipyyntöjä PAIR-paikallisen päätepisteen kautta.
Lataa NVIDIA PAIR viralliselta NVIDIA PAIR -verkkosivustolta. Löydät sivustolta myös nykyiset järjestelmävaatimukset, asennusohjeet ja usein kysyttyjä kysymyksiä.
PAIR tarjoaa uudelleenkäytettävän paikallisen inferenssin reitityskerroksen, joka kattaa laiteparin, solmun havaitsemisen, päätepisteiden käytön, back-end-proxy-palvelun ja työkuormituksen reitityksen. Mukautettu komentosarja edellyttää yleensä kehittäjiltä laitteiden saatavuuden, päätepisteiden, porttien ja sovellusmääritysten hallintaa kullekin työnkululle.