NVIDIA Personal AI Router (PAIR); uyumlu macOS, Windows ve Linux sistemlerini NVIDIA RTX™ GPU'larla ve DGX Spark sistemleriyle kişisel bir ev yapay zekâ kümesi oluşturacak şekilde birbirine bağlayan bir yazılımdır. PAIR, yerel yapay zekâ çıkarım iş yüklerini mevcut cihazlar arasında dağıtırken istemleri, dosyaları ve aracı bağlamını kullanıcının ev ağında tutar.
Kişisel ev yapay zekâ kümesi, aynı yerel ağdaki birden fazla uyumlu cihazı bağlayarak yerel yapay zekâ çıkarımı için mevcut bilgi işlem kaynaklarını paylaşmalarına olanak tanır. PAIR, Mac'lerin, NVIDIA RTX sistemlerinin ve DGX Spark sistemlerinin yerel yapay zekâ uygulamaları ve aracıları için daha fazla kapasite sunmasını sağlar. Cihazlar, paralel görevleri yerine getiren ayrı sistemler olarak kalır; PAIR bunları tek bir sanal GPU'da birleştirmez.
Bir düğüm, NVIDIA PAIR ile eşleştirilmiş ve yerel yapay zekâ kümesinin kullanımına sunulan uyumlu bir sistemdir. Düğümler, desteklenen Mac'leri, NVIDIA RTX PC'leri veya iş istasyonlarını ve DGX Spark sistemlerini içerebilir.
Evet. NVIDIA PAIR, desteklenen macOS sistemlerini aynı yerel ağda uyumlu NVIDIA RTX PC'ler, iş istasyonları ve DGX Spark sistemleriyle eşleştirebilir. Bu, Mac kullanıcılarının yerel yapay zekâ çıkarım iş yüklerini kullanılabilir NVIDIA bilgi işlem kaynaklarına yönlendirmesine olanak tanır.
Evet. PAIR, aynı yerel ağdaki uyumlu NVIDIA RTX ve DGX Spark sistemlerini keşfeder ve bunların tek bir kişisel yapay zekâ çıkarım kümesi olarak çalışmasına yardımcı olur. İş yükleri, tek bir makineye güvenmek yerine birden fazla cihazdaki mevcut işlem gücünü kullanabilir.
Evet. NVIDIA PAIR, uyumlu macOS, Windows ve Linux sistemlerini destekler. Desteklenen donanım, işletim sistemi sürümleri ve cihaz yapılandırmaları değişiklik gösterebildiğinden, yüklemeden önce geçerli sistem gereksinimlerini gözden geçirin.
NVIDIA PAIR için uyumlu macOS, Windows veya Linux sistemleri ve desteklenen donanım gerekir. Gereksinimler, belirli işletim sistemi sürümleri, NVIDIA RTX GPU'lar, GPU belleği, sistem belleği, işlemciler, depolama ve yerel ağ bağlantısı içerebilir. Güncel detayları için NVIDIA PAIR açılış sayfasındaki Sistem Gereksinimleri bölümüne bakın.
Evet. Desteklenen bir Mac; NVIDIA RTX PC'ler, iş istasyonları ve DGX Spark sistemlerinin yanı sıra bir düğüm olarak eklenebilir. PAIR, yerel yapay zekâ iş akışları için eşleştirilmiş cihazları koordine ederken istemleri, dosyaları ve aracı bağlamını yerel ağda tutar.
PAIR, çıkarım taleplerini yerel kümedeki kullanılabilir cihazlara yönlendirir. Bir cihaz meşgul olduğunda veya kullanılabilir kapasitesine ulaştığında PAIR, talepleri diğer uyumlu düğümlere yönlendirebilir ve böylece zorlu yapay zekâ ve aracı iş akışlarındaki darboğazları azaltmaya yardımcı olur.
Evet. PAIR, yerel yapay zekâ uygulamalarını, yapay zekâ aracılarını ve birden fazla veya ardışık çıkarım talebi üreten çoklu aracı iş akışlarını desteklemektedir. PAIR, talepleri eşleştirilmiş sistemler arasında yönlendirerek zorlu görevler için daha fazla yerel işlem gücü sağlamaya yardımcı olur.
Evet. PAIR, Ollama ve LM Studio'yu yerel çıkarım altyapıları olarak desteklemektedir. Uygulamalar yerel bir uç nokta kullanabilirken PAIR, çıkarım taleplerini kişisel yapay zekâ kümesindeki mevcut işlem gücüne yönlendirir.
Uygulamalarda veya aracılarda büyük değişiklikler yapılması gerekmez. PAIR, tek bir yerel uç nokta sağlar ve desteklenen Ollama ve LM Studio istekleri için proxy görevi görerek uygulamaları her bir cihaz için ayrı ayrı yapılandırma ihtiyacını azaltır.
PAIR, özel yerel çıkarım için tasarlanmıştır. İstemler, dosyalar ve aracı bağlamı, bir bulut çıkarım hizmetine gönderilmek yerine, kullanıcının yerel ağında kalır.
Hayır. PAIR, yerel ağa zaten bağlı olan uyumlu cihazları kullanır. Özel kablolar, sunucu rafları veya geleneksel veri merkezi küme donanımı gerekmez.
PAIR'i indirin, desteklenen sistemlere yükleyin, aynı yerel ağdaki cihazları eşleyin ve bunları kümeye ekleyin. Bağlandıktan sonra desteklenen uygulamalar ve aracılar, PAIR yerel uç noktası üzerinden çıkarım talepleri gönderebilir.
NVIDIA PAIR'i resmi NVIDIA PAIR web sitesinden indirin. Web sitesinde ayrıca güncel sistem gereksinimleri, yükleme kılavuzu ve ek SSS de yer almaktadır.
PAIR; cihaz eşleştirme, düğüm keşfi, uç nokta erişimi, arka uç vekil sunucu kullanımı ve iş yükü yönlendirme özelliklerine sahip yeniden kullanılabilir bir yerel çıkarım yönlendirme katmanı sunar. Özel bir betik genellikle geliştiricilerin her iş akışında cihaz kullanılabilirliğini, uç noktalarını, bağlantı noktalarını ve uygulama yapılandırmasını yönetmesini gerektirir.