NVIDIA Personal AI Router (PAIR)
NVIDIA PAIR รุ่นเบต้าเชื่อมต่อเวิร์กโฟลว์แอป AI และเอเจนต์ไปยังเอนด์พอยต์ภายในเครื่องเดียวสำหรับการกำหนดเส้นทางการอนุมานทั่วทั้ง NVIDIA DGX Spark™, ระบบ Windows ที่มี RTX™ และอุปกรณ์ macOSฟีเจอร์นี้ช่วยให้คุณเพิ่มประสิทธิภาพการประมวลผลภายในเครื่องได้สูงสุด ในขณะที่ยังคงรักษาพรอมต์ ไฟล์ และบริบทของเอเจนต์ไว้เป็นส่วนตัว
คุณสมบัติ
NVIDIA PAIR ทำอะไรได้บ้าง
คลัสเตอร์ AI ส่วนบุคคล เพิ่มพลังให้ระบบในบ้าน
ผสานรวมระบบ RTX, DGX™ และ Mac ที่อยู่บนเครือข่ายของคุณอยู่แล้วได้ภายในไม่กี่นาที NVIDIA PAIR จะค้นพบเครื่องภายในพื้นที่ที่ใช้งานร่วมกันได้และช่วยให้เครื่องเหล่านี้ทำงานในฐานะคลัสเตอร์การอนุมาน AI ส่วนบุคคลหนึ่งเดียวโดยไม่ต้องใช้สายเคเบิลพิเศษ แร็ค หรือการตั้งค่าคลัสเตอร์ที่ซับซ้อนใด ๆ
การกำหนดเส้นทางเวิร์กโหลดเอเจนต์ มีพื้นที่ให้คิดมากขึ้น
ช่วยให้เวิร์กโฟลว์ AI ภายในเครื่องทำงานได้อย่างต่อเนื่องเมื่อมีงานสะสมNVIDIA PAIR กำหนดเส้นทางคำขอการอนุมานด้วย AI ข้ามโหนดที่พร้อมใช้งานภายในเครื่อง ช่วยให้เวิร์กโฟลว์ AI ที่กำลังทำงานหนักสามารถเข้าถึงทรัพยากรการประมวลผลที่ว่างอยู่ได้ ไม่ว่าระบบปฏิบัติการของโหนดนั้นจะเป็นแบบใดก็ตาม
การรองรับ Ollama และ LM Studio ใช้เครื่องมือที่คุณรู้จัก
รัน NVIDIA PAIR ควบคู่ไปกับแบ็กเอนด์การอนุมานภายในเครื่องที่คุ้นเคยบน Windows, Linux และ macOS เมื่อเปิดใช้งานแล้ว NVIDIA PAIR จะรองรับ Ollama และ LM Studio ซึ่งมอบเอนด์พอยต์เดียวที่สม่ำเสมอให้กับแอปต่าง ๆ ในขณะที่ทำหน้าที่เป็นพร็อกซีส่งคำขอไปยังทรัพยากรการประมวลผลภายในเครื่องที่ว่างอยู่อย่างชาญฉลาด
การอนุมานภายในเครื่องแบบส่วนตัว เก็บไว้ให้ใกล้บ้าน
รันเวิร์กโฟลว์ AI ที่บ้านด้วยข้อมูลที่อยู่ในเครือข่ายของคุณ NVIDIA PAIR สร้างขึ้นสำหรับการอนุมานในเครื่องแบบส่วนตัว ช่วยให้คุณใช้พรอมต์ ไฟล์ และบริบทของเอเจนต์ได้โดยไม่ต้องส่งข้อมูลเหล่านี้ไปยังคลาวด์
วิธีเริ่มต้นใช้งาน NVIDIA PAIR
NVIDIA PAIR ทำงานได้โดยไม่ต้องใช้สายเคเบิลหรือแร็คพิเศษ และทำการตั้งค่าได้อย่างง่ายดาย
ดาวน์โหลด NVIDIA PAIR
ข้อมูล
แพลตฟอร์ม
Windows 11, DGX OS, Ubuntu 14.04, macOS Tahoe
ภาษา
ไทย
การกำหนดค่าที่ผ่านการตรวจสอบแล้ว
GPU
GPU GeForce RTX ทั้งหมด (20 Series และใหม่กว่า), DGX Spark/GB10, Mac M4 หรือใหม่กว่า
RAM
RAM 8 GB หรือสูงกว่า
พื้นที่ดิสก์
แนะนำ: 20 GB หรือสูงกว่า
อินเทอร์เน็ต
ไม่จำเป็นสำหรับการใช้งาน
แต่จำเป็นสำหรับการดาวน์โหลดโมเดล
คำถามที่พบบ่อยเกี่ยวกับ PAIR
NVIDIA Personal AI Router (PAIR) เป็นซอฟต์แวร์ที่เชื่อมต่อระบบ macOS, Windows และ Linux ที่ใช้งานร่วมกันได้ซึ่งมี GPU NVIDIA RTX™ และระบบ DGX Spark เข้าด้วยกันเป็นคลัสเตอร์ AI ส่วนบุคคลภายในบ้านPAIR กระจายเวิร์กโหลดการอนุมานด้วย AI ภายในเครื่องไปยังอุปกรณ์ที่พร้อมใช้งาน ในขณะที่ยังคงรักษาพรอมต์ ไฟล์ และบริบทของเอเจนต์ไว้บนเครือข่ายภายในบ้านของผู้ใช้
คลัสเตอร์ AI ส่วนบุคคลภายในบ้านจะเชื่อมต่ออุปกรณ์ที่เข้ากันได้หลายเครื่องไว้บนเครือข่ายท้องถิ่นเดียวกัน ช่วยให้อุปกรณ์เหล่านี้สามารถแบ่งปันทรัพยากรการประมวลผลที่มีอยู่สำหรับการอนุมานของ AI ภายในเครื่องได้PAIR ช่วยให้ Mac, ระบบ NVIDIA RTX และระบบ DGX Spark สามารถมอบประสิทธิภาพที่เพิ่มมากขึ้นสำหรับแอปพลิเคชัน AI และเอเจนต์ภายในเครื่อง อุปกรณ์เหล่านี้ยังคงเป็นระบบแยกต่างหากที่จัดการงานแบบคู่ขนาน โดยที่ PAIR จะไม่รวมอุปกรณ์เหล่านี้เข้าเป็น GPU เสมือนตัวเดียว
ดาวน์โหลด PAIR, ติดตั้งบนระบบที่รองรับ, จับคู่อุปกรณ์บนเครือข่ายท้องถิ่นเดียวกันเข้าด้วยกัน และเพิ่มอุปกรณ์เหล่านั้นลงในคลัสเตอร์ เมื่อเชื่อมต่อแล้ว แอปพลิเคชันและเอเจนต์ที่รองรับจะสามารถส่งคำขอการอนุมานผ่านเอนด์พอยต์ในเครื่องของ PAIR ได้
NVIDIA PAIR ต้องใช้ระบบ macOS, Windows หรือ Linux ที่ใช้งานร่วมกันได้ และฮาร์ดแวร์ที่รองรับ ข้อกำหนดอาจรวมถึงเวอร์ชันระบบปฏิบัติการเฉพาะ, GPU NVIDIA RTX, หน่วยความจำ GPU, หน่วยความจำระบบ, โปรเซสเซอร์, พื้นที่จัดเก็บข้อมูล, และการเชื่อมต่อเครือข่ายท้องถิ่น ดูส่วนข้อกำหนดของระบบบนหน้าแลนดิ้งเพจของ NVIDIA PAIR สำหรับรายละเอียดปัจจุบัน
PAIR ได้รับการออกแบบมาสำหรับการอนุมานในเครื่องแบบส่วนตัว พรอมต์ ไฟล์ และบริบทของเอเจนต์จะยังคงอยู่ในเครือข่ายท้องถิ่นของผู้ใช้ แทนที่จะถูกส่งไปยังบริการการอนุมานคลาวด์
ทรัพยากรสนับสนุน PAIR
