NVIDIA Kişisel Yapay Zekâ Yönlendiricisi (PAIR)
NVIDIA PAIR ile yapay zekâ uygulamalarınızı ve aracılarınızı, NVIDIA DGX Spark™, NVIDIA RTX Spark™, RTX’li Windows ve Linux sistemleri ile macOS bilgisayarlar dahil tüm yerel cihazlarınızda çalıştırabilirsiniz. İstemlerinizi, dosyalarınızı ve yapay zekâ aracılarınızın bağlam bilgilerini gizli tutarken donanımınızın gücünden en iyi şekilde yararlanın.
NVIDIA PAIR'in Nasıl Çalıştığını Görün
Özellikler
NVIDIA PAIR Neler Yapabiliyor?
Kişisel Yapay Zekâ Kümesi Evinizdeki Gücü Harekete Geçirin
Mevcut ağınızdaki RTX, DGX ve Mac sistemlerini birkaç dakika içinde tek bir yapıda buluşturun. NVIDIA PAIR, uyumlu yerel sistemleri keşfederek bunları kişisel bir yapay zekâ çıkarım kümesi hâlinde birlikte çalıştırır; özel kablo, raf sistemi veya karmaşık küme kurulumu gerekmez.
Aracı İş Yükü Yönlendirmesi Daha Geniş Bir Düşünme Alanı
İşler biriktiğinde bile yerel yapay zekâ iş akışlarınız çalışmaya devam etsin. NVIDIA PAIR, yapay zekâ çıkarım isteklerini kullanılabilir yerel düğümler arasında yönlendirerek yoğun iş akışlarının, düğümlerin işletim sisteminden bağımsız olarak boşta kalan işlem gücünden yararlanmasını sağlar.
Ollama, llama.cpp ve LM Studio Desteği Bildiğiniz Araçlarla Çalışın
NVIDIA PAIR'ı Windows, Linux ve macOS'ta alışık olduğunuz yerel çıkarım altyapılarıyla birlikte kullanın. Lansmanda Ollama, llama.cpp ve LM Studio desteğiyle gelen çözüm, uygulamalara tek ve tutarlı bir uç nokta sunar ve istekleri mevcut yerel işlem kapasitesine akıllıca yönlendirir.
Yerelde Özel Çıkarım Her Şey Yerelde Kalsın
Yapay zekâ iş akışlarınızı evinizde çalıştırın, verileriniz ağınızda kalsın. Özel ve yerel çıkarım için tasarlanan NVIDIA PAIR, istemlerinizi, dosyalarınızı ve aracı bağlamını buluta göndermeden kullanmanıza yardımcı olur.
NVIDIA PAIR'i Kullanmaya Başlayın
NVIDIA PAIR, özel kablolara veya raf sistemlerine ihtiyaç duymaz. Ve kolayca kurulur.
2
Cihazlarınızı kümeye ekleyin.
3
Yapay zekâ uygulamalarınızı ve aracılarınızı çalıştırın.
NVIDIA PAIR'i İndirin
Bilgi
Platform
Windows 11, DGX OS, Ubuntu 24.04, macOS Tahoe
Dil
İngilizce
Doğrulanmış Yapılandırmalar
Ekran kartı
Tüm GeForce RTX™ GPU'lar (20 Serisi ve daha yeni), DGX Spark/GB10, RTX Spark, Mac M1 veya daha yeni
RAM
4 GB RAM veya üstü
Disk Alanı
Önerilen: 500 MB (modeller hariç)
İnternet
Çalıştırma için internet gerekli değildir
Modeli indirmek için gereklidir
Topluluk Üyelerine Katkıları için Teşekkür Ederiz
Fikirlerini paylaştıkları, öneri ve düzeltmeler sundukları, sorunları araştırdıkları ve PAIR’i test ettikleri için aşağıdaki topluluk üyelerimize özellikle teşekkür etmek istiyoruz:
| @XxSilentStormIxX | @woodsonl |
| @agenticocho | @stevbev |
| @Mayimbe07 | @habakan |
| @cruzanstx | @arcaven |
| @pettersandvand | @somtri |
| @cguldogan | @imluffy000 |
| @mkalkere | @ndizazzo |
| @CryptoJones |
NVIDIA PAIR Sürümünde Öne Çıkanlar
Bu sürüm, PAIR’a llama.cpp ve RTX Spark desteği ekliyor; GitHub’da herkese açık geliştirme ve katkı sürecini de başlatıyor.
Yenilikler
- llama.cpp desteği. PAIR artık llama.cpp’yi doğrudan yükleyip yönetmeyi, Hugging Face’ten uyumlu GGUF modelleri indirmeyi ve çıkarım isteklerini eşleştirilmiş cihazlar arasında yönlendirmeyi destekliyor.
- Motor Başlatma Seçenekleri. Yerel ve eşleştirilmiş cihazlarda PAIR tarafından yönetilen motorların başlatma parametreleri ve ortam değişkenleri özelleştirilebilir. Motor desteklediğinde bağlam boyutu gibi ayarlar da yapılandırılabilir.
- RTX Spark desteği. PAIR’in Windows on ARM sürümünün RTX Spark N1X donanımında llama.cpp ve CUDA ile uyumluluğu doğrulandı.
Topluluğumuzun Katkıları
- Anthropic Messages API için Ollama ve LM Studio üzerinden yönlendirme desteği eklendi. Böylece Claude Code gibi uyumlu istemciler, PAIR’in model bilgisine göre yönlendirme ve hata durumunda yedek modele geçiş özelliklerinden yararlanabiliyor. Teşekkürler @Ratherrayees! (#27)
- Motorların sağlık kontrollerinde HTTP bağlantıları yeniden kullanılarak izleme verimliliği artırıldı. Teşekkürler @Psych0h3ad! (#37)
- Bildirimler artık yalnızca yeni eş düğüm onayları başarıyla kaydedildikten sonra gönderiliyor; böylece küme güveninin gereksiz yere yenilenmesi önlendi. Teşekkürler @RecursiveIntell! (#62)
- Düğümler arası iş yükü senkronizasyonu düzeltildi: yayınlar olay sırasını koruyor, başarısız broker bildirimleri yeniden denenebiliyor. Teşekkürler @mkalkere! (#80)
- Başarısız bildirimden sonra zamanlayıcı önceliği güncellemelerinin iletildi olarak işaretlenmesi sorunu giderildi. Böylece yeniden deneme mümkün hâle geldi ve durum bilgisi doğru tutuldu. Teşekkürler @sylvesterkaczmarek! (#122)
- Hizmet entegrasyonu ve proxy yedek sisteme geçiş testleri yerel PAIR ayarlarından yalıtıldı. Böylece testlerin geliştirici yapılandırmasını okuması veya üzerine yazması önlendi. Teşekkürler @somtri! (#95)
- Release-intent örnekleri, gerekli hizmet sürümü anahtarını kullanacak şekilde düzeltildi. Teşekkürler @somtri! (#120)
- Katkı yönergeleri, develop dalını temel alarak yeni bir dal oluşturma ve bu dala rebase uygulama adımlarını içerecek şekilde güncellendi. Teşekkürler @somtri! (#126)
- Çok GPU'lu sistemlerde yalnızca ilk GPU'yu gösteren düğüm kartları düzeltildi; artık tüm GPU'lar görüntüleniyor. Teşekkürler @CryptoJones! (#34)
Uyumluluk Notu
- PAIR’in yerel uç noktaları artık tüm tarayıcı kaynaklarına izin vermek yerine her motorun CORS politikasını uyguluyor. Tarayıcı tabanlı istemcilerde ek motor yapılandırması gerekebilir. Ollama’da izin verilen kaynak adresleri, Motor Başlatma Seçenekleri bölümündeki OLLAMA_ORIGINS değişkeniyle yapılandırılabilir.
- PAIR’in resmî adı "Personal AI Router"dan PAIR olarak değiştirildi. macOS kullanıcılarının eski sürümleri kaldırması ve modellerini korumak için yeni sürümü Uygulamalar klasörüne sürükleyip bırakması gerekiyor.
- PAIR’ın eski sürümlerinin yüklediği LM Studio, PAIR’ın daha yeni bir sürümü kaldırıldığında otomatik olarak kaldırılmaz. LM Studio’yu da kaldırmak isteyen kullanıcıların ~/.lmstudio dizinini elle silmesi gerekir.
PAIR Destek Kaynakları
PAIR Hakkında Sıkça Sorulan Sorular
NVIDIA Personal AI Router (PAIR); uyumlu macOS, Windows ve Linux sistemlerini NVIDIA RTX™ GPU'larla ve DGX Spark sistemleriyle kişisel bir ev yapay zekâ kümesi oluşturacak şekilde birbirine bağlayan bir yazılımdır. PAIR, yerel yapay zekâ çıkarım iş yüklerini mevcut cihazlar arasında dağıtırken istemleri, dosyaları ve aracı bağlamını kullanıcının ev ağında tutar.
Kişisel ev yapay zekâ kümesi, aynı yerel ağdaki birden fazla uyumlu cihazı bağlayarak yerel yapay zekâ çıkarımı için mevcut bilgi işlem kaynaklarını paylaşmalarına olanak tanır. PAIR, Mac'lerin, NVIDIA RTX sistemlerinin ve DGX Spark sistemlerinin yerel yapay zekâ uygulamaları ve aracıları için daha fazla kapasite sunmasını sağlar. Cihazlar, paralel görevleri yerine getiren ayrı sistemler olarak kalır; PAIR bunları tek bir sanal GPU'da birleştirmez.
PAIR'i indirin, desteklenen sistemlere yükleyin, aynı yerel ağdaki cihazları eşleyin ve bunları kümeye ekleyin. Bağlandıktan sonra desteklenen uygulamalar ve aracılar, PAIR yerel uç noktası üzerinden çıkarım talepleri gönderebilir.
NVIDIA PAIR için uyumlu macOS, Windows veya Linux sistemleri ve desteklenen donanım gerekir. Gereksinimler, belirli işletim sistemi sürümleri, NVIDIA RTX GPU'lar, GPU belleği, sistem belleği, işlemciler, depolama ve yerel ağ bağlantısı içerebilir. Güncel detaylar için NVIDIA PAIR açılış sayfasındaki Sistem Gereksinimleri bölümüne bakın.
PAIR, özel yerel çıkarım için tasarlanmıştır. İstemler, dosyalar ve aracı bağlamı, bir bulut çıkarım hizmetine gönderilmek yerine, kullanıcının yerel ağında kalır.
