NVIDIA Personal AI Router (PAIR)
NVIDIA PAIR versi beta menghubungkan aplikasi AI dan alur kerja agen ke satu titik akhir lokal untuk merutekan inferensi ke seluruh NVIDIA DGX Spark™, sistem Windows dengan RTX™, dan perangkat macOS. Ini membantu Anda memaksimalkan pemanfaatan komputasi lokal sambil menjaga prompt, file, dan konteks agen tetap pribadi.
Fitur
Apa yang Dapat Dilakukan NVIDIA PAIR?
Klaster AI Pribadi Berdayakan Perangkat di Rumah
Gabungkan sistem RTX, DGX™, dan Mac yang sudah ada di jaringan Anda dalam hitungan menit. NVIDIA PAIR menemukan mesin lokal yang kompatibel dan membantu mesin tersebut berfungsi sebagai satu klaster inferensi AI pribadi tanpa perlu kabel khusus, rak, atau penyiapan klaster yang kompleks.
personal AI routeran Beban Kerja Agen Lebih Banyak Kapasitas untuk Kecerdasan
Jaga alur kerja AI lokal tetap berjalan saat beban tugas meningkat. NVIDIA PAIR merutekan permintaan inferensi AI ke node lokal yang tersedia, membantu alur kerja AI dengan beban tinggi memanfaatkan kapasitas komputasi yang menganggur, terlepas dari sistem operasi node tersebut.
Dukungan Ollama dan LM Studio Gunakan Alat yang Anda Ketahui
Jalankan NVIDIA PAIR bersama backend inferensi lokal yang sudah dikenal di Windows, Linux, dan macOS. Saat peluncuran, NVIDIA PAIR mendukung Ollama dan LM Studio, yang memberi satu titik akhir yang konsisten untuk aplikasi sekaligus meneruskan permintaan ke sumber daya komputasi lokal yang tersedia secara cerdas.
Inferensi Lokal Pribadi Jaga Data Tetap di Rumah
Jalankan alur kerja AI di rumah dengan data yang tetap berada di jaringan Anda. NVIDIA PAIR dibuat untuk inferensi lokal pribadi, membantu Anda menggunakan prompt, file, dan konteks agen tanpa mengirimnya ke cloud.
Cara Mulai Menggunakan NVIDIA PAIR
NVIDIA PAIR berfungsi tanpa kabel atau rak khusus. Selain itu, pengaturannya pun mudah.
Unduh NVIDIA PAIR
Informasi
Platform
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
Bahasa
Inggris
Konfigurasi yang Tervalidasi
GPU
Semua GPU GeForce RTX (Seri 20 dan yang lebih baru), DGX Spark/GB10, Mac M4 atau yang lebih baru
RAM
RAM 8 GB atau lebih tinggi
Ruang Disk
Direkomendasikan: 20 GB atau lebih tinggi
Internet
Tidak diperlukan untuk pengoperasian
Diperlukan untuk pengunduhan model
Tanya Jawab Tentang PAIR
NVIDIA Personal AI Router (PAIR) adalah perangkat lunak yang menghubungkan sistem macOS, Windows, dan Linux yang kompatibel, yang dilengkapi GPU NVIDIA RTX™, serta sistem DGX Spark, menjadi klaster AI rumahan pribadi. PAIR mendistribusikan beban kerja inferensi AI lokal ke perangkat yang tersedia sembari menjaga prompt, file, dan konteks agen tetap berada di jaringan rumah pengguna.
Klaster AI rumahan pribadi menghubungkan beberapa perangkat yang kompatibel pada jaringan lokal yang sama, sehingga memungkinkan perangkat-perangkat tersebut berbagi sumber daya komputasi yang tersedia untuk inferensi AI lokal. PAIR memungkinkan Mac, sistem NVIDIA RTX, dan sistem DGX Spark menyediakan lebih banyak kapasitas untuk aplikasi dan agen AI lokal. Perangkat tetap menjadi sistem terpisah yang menangani tugas paralel; PAIR tidak menggabungkannya menjadi satu GPU virtual.
Unduh PAIR, instal pada sistem yang didukung, kaitkan perangkat di jaringan lokal yang sama, dan tambahkan ke klaster. Setelah terhubung, aplikasi dan agen yang didukung dapat mengirim permintaan inferensi melalui titik akhir lokal PAIR.
NVIDIA PAIR memerlukan sistem macOS, Windows, atau Linux yang kompatibel dan perangkat keras yang didukung. Persyaratan dapat mencakup versi sistem operasi tertentu, GPU NVIDIA RTX, memori GPU, memori sistem, prosesor, penyimpanan, dan konektivitas jaringan lokal. Lihat bagian Persyaratan Sistem di halaman arahan NVIDIA PAIR untuk detail saat ini.
PAIR dirancang untuk inferensi lokal pribadi. Prompt, file, dan konteks agen tetap berada di jaringan lokal pengguna alih-alih dikirim ke layanan inferensi cloud.
Sumber Daya Dukungan PAIR
