NVIDIA PAIR beta, yapay zekâ uygulamalarını ve aracı iş akışlarını tek bir yerel uç noktaya bağlayarak çıkarım işlemlerini NVIDIA DGX Spark™, RTX™'li Windows sistemleri ve macOS cihazları arasında yönlendirir. Böylece istemlerinizi, dosyalarınızı ve aracı bağlamını gizli tutarken yerel işlem gücünüzden en iyi şekilde yararlanabilirsiniz.
Özellikler
Mevcut ağınızdaki RTX, DGX™ ve Mac sistemlerini birkaç dakika içinde tek bir yapıda buluşturun. NVIDIA PAIR, uyumlu yerel sistemleri keşfederek bunları kişisel bir yapay zekâ çıkarım kümesi hâlinde birlikte çalıştırır; özel kablo, raf sistemi veya karmaşık küme kurulumu gerekmez.
Yerel yapay zekâ iş akışlarınız yoğunlaştığında bile hız kesmeden ilerleyin. NVIDIA PAIR, yapay zekâ çıkarım isteklerini kullanılabilir yerel düğümler arasında yönlendirerek yoğun iş akışlarının, işletim sisteminden bağımsız olarak düğümün boşta kalan işlem gücünden yararlanmasını sağlar.
NVIDIA PAIR'ı Windows, Linux ve macOS'ta alışık olduğunuz yerel çıkarım altyapılarıyla birlikte kullanın. Lansmanda Ollama ve LM Studio desteğiyle gelen çözüm, uygulamalara tek ve tutarlı bir uç nokta sunar ve istekleri mevcut yerel işlem kapasitesine akıllıca yönlendirir.
Yapay zekâ iş akışlarınızı evinizde çalıştırın, verileriniz ağınızda kalsın. Özel ve yerel çıkarım için tasarlanan NVIDIA PAIR, istemlerinizi, dosyalarınızı ve aracı bağlamını buluta göndermeden kullanmanıza yardımcı olur.
NVIDIA PAIR için özel kablolara veya raf sistemlerine ihtiyaç yoktur. Kurulumu da son derece kolaydır.
2
3
Platform
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
Dil
İngilizce
Ekran kartı
Tüm GeForce RTX GPU'lar (20 Serisi ve daha yeni), DGX Spark/GB10, Mac M4 veya daha yeni
RAM
8 GB RAM veya üzeri
Disk Alanı
Önerilen: 20 GB veya daha yüksek
İnternet
Çalıştırma için gerekli değildir;
Modeli indirmek için gereklidir
NVIDIA Kişisel Yapay Zekâ Yönlendiricisi (PAIR), uyumlu macOS, Windows ve Linux sistemlerini NVIDIA RTX™ GPU'lar ve DGX Spark sistemleriyle bir araya getirerek evinizde kişisel bir yapay zekâ kümesi oluşturmanızı sağlayan bir yazılımdır. PAIR, yerel yapay zekâ çıkarım iş yüklerini kullanılabilir cihazlar arasında dağıtırken istemlerin, dosyaların ve aracı bağlamının kullanıcının ev ağında kalmasını sağlar.
Kişisel ev yapay zekâ kümesi, aynı yerel ağdaki birden fazla uyumlu cihazı birbirine bağlayarak kullanılabilir işlem kaynaklarının yerel yapay zekâ çıkarımı için paylaşılmasını sağlar. PAIR, Mac'lerin, NVIDIA RTX sistemlerinin ve DGX Spark sistemlerinin yerel yapay zekâ uygulamaları ve aracıları için daha fazla kapasite sunmasına olanak tanır. Cihazlar, paralel görevleri yürüten ayrı sistemler olarak çalışmaya devam eder; PAIR bunları tek bir sanal GPU'da birleştirmez.
PAIR'ı indirin, desteklenen sistemlere kurun, aynı yerel ağdaki cihazları eşleştirin ve kümeye ekleyin. Bağlantı kurulduktan sonra desteklenen uygulamalar ve aracılar, çıkarım isteklerini PAIR'ın yerel uç noktası üzerinden gönderebilir.
NVIDIA PAIR için uyumlu macOS, Windows veya Linux sistemlerinin yanı sıra desteklenen donanımlar gerekir. Gereksinimler arasında belirli işletim sistemi sürümleri, NVIDIA RTX GPU'lar, GPU belleği, sistem belleği, işlemciler, depolama alanı ve yerel ağ bağlantısı bulunabilir. Güncel ayrıntılar için NVIDIA PAIR ürün sayfasındaki Sistem Gereksinimleri bölümüne bakın.
PAIR, özel yerel çıkarım için tasarlanmıştır. İstemler, dosyalar ve aracı bağlamı bulut tabanlı bir çıkarım hizmetine gönderilmek yerine kullanıcının yerel ağında kalır.