NVIDIA Personal AI Router (PAIR) เป็นซอฟต์แวร์ที่เชื่อมต่อระบบ macOS, Windows และ Linux ที่ใช้งานร่วมกันได้ซึ่งมี GPU NVIDIA RTX™ และระบบ DGX Spark เข้าด้วยกันเป็นคลัสเตอร์ AI ส่วนบุคคลภายในบ้านPAIR กระจายเวิร์กโหลดการประมวลผลด้วย AI ภายในเครื่องไปยังอุปกรณ์ที่พร้อมใช้งาน ในขณะที่ยังคงรักษาพรอมต์ ไฟล์ และบริบทของเอเจนต์ไว้บนเครือข่ายภายในบ้านของผู้ใช้
คลัสเตอร์ AI ส่วนบุคคลภายในบ้านจะเชื่อมต่ออุปกรณ์ที่เข้ากันได้หลายเครื่องไว้บนเครือข่ายท้องถิ่นเดียวกัน ช่วยให้อุปกรณ์เหล่านี้สามารถแบ่งปันทรัพยากรการประมวลผลที่มีอยู่สำหรับการอนุมานของ AI ภายในเครื่องได้PAIR ช่วยให้ Mac, ระบบ NVIDIA RTX และระบบ DGX Spark สามารถมอบประสิทธิภาพที่เพิ่มมากขึ้นสำหรับแอปพลิเคชัน AI และเอเจนต์ภายในเครื่อง อุปกรณ์เหล่านี้ยังคงเป็นระบบแยกต่างหากที่จัดการงานแบบคู่ขนาน โดยที่ PAIR จะไม่รวมอุปกรณ์เหล่านี้เข้าเป็น GPU เสมือนตัวเดียว
โหนดเป็นระบบที่ใช้ร่วมกันได้ซึ่งได้รับการจับคู่กับ NVIDIA PAIR และพร้อมให้บริการสำหรับคลัสเตอร์ AI ภายในพื้นที่ โหนดสามารถรวมถึง Mac, พีซี NVIDIA RTX หรือเวิร์กสเตชันที่รองรับ และระบบ DGX Spark
ได้ NVIDIA PAIR สามารถจับคู่ระบบ macOS ที่รองรับเข้ากับพีซี NVIDIA RTX, เวิร์กสเตชัน และระบบ DGX Spark ที่ใช้งานร่วมกันได้บนเครือข่ายท้องถิ่นเดียวกันสิ่งนี้ช่วยให้ผู้ใช้ Mac สามารถกำหนดเส้นทางเวิร์กโหลดการประมวลผลของ AI ภายในเครื่องไปยังทรัพยากรการคำนวณ NVIDIA ที่มีอยู่
ได้ PAIR จะค้นหาระบบ NVIDIA RTX และ DGX Spark ที่ใช้งานร่วมกันได้บนเครือข่ายเดียวกันแบบโลคอล และช่วยให้ระบบเหล่านี้ทำงานเป็นคลัสเตอร์การอนุมาน AI ส่วนบุคคลหนึ่งเดียว เวิร์กโหลดสามารถใช้การประมวลผลที่พร้อมใช้งานบนอุปกรณ์หลายเครื่องได้ แทนที่จะต้องพึ่งพาเครื่องเดียว
ใช่ NVIDIA PAIR รองรับระบบ macOS, Windows และ Linux ที่ใช้งานร่วมกันได้ฮาร์ดแวร์ที่รองรับ เวอร์ชันระบบปฏิบัติการ และการกำหนดค่าอุปกรณ์อาจแตกต่างกันไป ดังนั้นโปรดตรวจสอบข้อกำหนดของระบบปัจจุบันก่อนการติดตั้ง
NVIDIA PAIR ต้องใช้ระบบ macOS, Windows หรือ Linux ที่ใช้งานร่วมกันได้ และฮาร์ดแวร์ที่รองรับ ข้อกำหนดอาจรวมถึงเวอร์ชันระบบปฏิบัติการเฉพาะ, GPU NVIDIA RTX, หน่วยความจำ GPU, หน่วยความจำระบบ, โปรเซสเซอร์, พื้นที่จัดเก็บข้อมูล, และการเชื่อมต่อเครือข่ายท้องถิ่น ดูส่วนข้อกำหนดของระบบบนหน้าแลนดิ้งเพจของ NVIDIA PAIR สำหรับรายละเอียดปัจจุบัน
ใช่ Mac ที่รองรับสามารถนำไปเพิ่มเป็นโหนดควบคู่กับพีซี NVIDIA RTX, เวิร์กสเตชัน, และระบบ DGX Spark ได้PAIR ประสานงานอุปกรณ์ที่จับคู่สำหรับเวิร์กโฟลว์ AI ภายในเครื่อง พร้อมทั้งรักษาพรอมต์ ไฟล์ และบริบทของเอเจนต์ไว้บนเครือข่ายท้องถิ่น
PAIR กำหนดเส้นทางคำขอการประมวลผลไปยังอุปกรณ์ที่พร้อมใช้ภายในคลัสเตอร์ท้องถิ่น เมื่ออุปกรณ์หนึ่งไม่ว่างหรือถึงขีดความสามารถที่ใช้งานได้แล้ว PAIR จะสามารถส่งคำขอไปยังโหนดอื่น ๆ ที่ใช้งานร่วมกันได้ ช่วยลดปัญหาคอขวดในระหว่างเวิร์กโฟลว์ AI และเอเจนต์ที่ต้องการทรัพยากรสูง
ใช่ PAIR รองรับแอปพลิเคชัน AI, เอเจนต์ และเวิร์กโฟลว์แบบหลายเอเจนต์ที่สร้างคำขอการประมวลผลหลายรายการหรือตามลำดับได้ด้วยการกำหนดเส้นทางคำขอข้ามระบบที่จับคู่กัน PAIR จะช่วยให้การประมวลผลภายในเครื่องพร้อมใช้งานมากขึ้นสำหรับงานที่ต้องการประสิทธิภาพสูง
ใช่ PAIR รองรับ Ollama และ LM Studio ในฐานะแบ็กเอนด์การประมวลผลภายในเครื่อง แอปพลิเคชันสามารถใช้เอนด์พอยต์ภายในเครื่องได้ ในขณะที่ PAIR จะพร็อกซีส่งคำขอการประมวลผลไปยังทรัพยากรการประมวลผลที่พร้อมใช้งานภายในคลัสเตอร์ AI ส่วนบุคคล
ไม่จำเป็นต้องเปลี่ยนแปลงแอปพลิเคชันหรือเอเจนต์ที่สำคัญใด ๆ PAIR มอบเอนด์พอยต์และพร็อกซีภายในเครื่องเดียวที่รองรับคำขอ Ollama และ LM Studio ซึ่งช่วยลดความจำเป็นในการกำหนดค่าแอปพลิเคชันสำหรับอุปกรณ์แต่ละเครื่อง
PAIR ได้รับการออกแบบมาสำหรับการอนุมานในเครื่องแบบส่วนตัว พรอมต์ ไฟล์ และบริบทของเอเจนต์จะยังคงอยู่ในเครือข่ายท้องถิ่นของผู้ใช้ แทนที่จะถูกส่งไปยังบริการการอนุมานคลาวด์
ไม่ PAIR ใช้อุปกรณ์ที่รองรับซึ่งเชื่อมต่อกับเครือข่ายท้องถิ่นอยู่แล้วไม่จำเป็นต้องใช้สายเคเบิลพิเศษ แร็คเซิร์ฟเวอร์ หรือฮาร์ดแวร์คลัสเตอร์ศูนย์ข้อมูลแบบดั้งเดิม
ดาวน์โหลด PAIR, ติดตั้งบนระบบที่รองรับ, จับคู่อุปกรณ์บนเครือข่ายท้องถิ่นเดียวกันเข้าด้วยกัน และเพิ่มอุปกรณ์เหล่านั้นลงในคลัสเตอร์ เมื่อเชื่อมต่อแล้ว แอปพลิเคชันและเอเจนต์ที่รองรับจะสามารถส่งคำขอการประมวลผลผ่านเอนด์พอยต์ในเครื่องของ PAIR ได้
ดาวน์โหลด NVIDIA PAIR จากเว็บไซต์ NVIDIA PAIR อย่างเป็นทางการ เว็บไซต์นี้ยังมีข้อกำหนดของระบบปัจจุบัน คำแนะนำการติดตั้ง และคำถามที่พบบ่อยเพิ่มเติมอีกด้วย
PAIR มอบเลเยอร์การกำหนดเส้นทางการอนุมานภายในเครื่องที่นำมาใช้ซ้ำได้ด้วยการจับคู่อุปกรณ์ การค้นพบโหนด การเข้าถึงเอนด์พอยต์ การพร็อกซีแบ็กเอนด์ และการกำหนดเส้นทางเวิร์กโหลด โดยทั่วไปแล้ว สคริปต์ที่กำหนดเองจำเป็นต้องให้นักพัฒนาจัดการความพร้อมใช้งานของอุปกรณ์ เอนด์พอยต์ พอร์ต และการกำหนดค่าแอปพลิเคชันสำหรับแต่ละเวิร์กโฟลว์