NVIDIA Personal AI Router (PAIR) 常見問答

NVIDIA PAIR 測試版可將 AI 應用程式與 AI 代理工作流程連接至單一本機端點,在 NVIDIA DGX Spark™、搭載 RTX™ 的 Windows 系統與 macOS 裝置之間分配推論工作負載。這有助於您充分發揮本機運算資源,同時確保提示詞、檔案與 AI 代理情境資料的隱私。

功能

NVIDIA PAIR 可做些什麼?

個人 AI 叢集: 全面提升運算效能

只需幾分鐘,就能整合網路上現有的 RTX、DGX™ 與 Mac 系統。NVIDIA PAIR 會探索相容的本機裝置,並協助這些裝置組成單一個人 AI 推論叢集,不需要特殊纜線、機架,也無須進行複雜的叢集設定。

代理工作負載路由 更多思考的餘裕

即使多項工作接踵而來,也能讓本機 AI 工作流程持續順暢運作。NVIDIA PAIR 會在可用的本機節點之間分配 AI 推論要求,協助繁忙的 AI 工作流程充分運用閒置的運算資源,不受節點作業系統限制。

Ollama 與 LM Studio 支援: 使用您熟悉的工具

NVIDIA PAIR 可搭配 Windows、Linux 與 macOS 上常用的本機推論後端一起運作。NVIDIA PAIR 推出時即支援 Ollama 與 LM Studio,為應用程式提供一致的單一端點,同時智慧代理推論要求,將工作分配至可用的本機運算資源。

私有本機推論: 讓一切留在本機

在家中執行 AI 工作流程,資料全程留在你的網路內。NVIDIA PAIR 專為私有本機推論打造,讓您使用提示詞、檔案與 AI 代理情境資料時,無須將這些資料傳送至雲端。

NVIDIA PAIR 入門須知

NVIDIA PAIR 無須使用特殊纜線或機架即可運作。而且設定非常簡單。

2

將裝置新增至叢集。

3

執行 AI App 與代理。

下載 NVIDIA PAIR

資訊

平台

Windows 11、DGX OS、Ubuntu 14.04、macOS Tahoe


語言

英文


已驗證的配置

GPU

所有 GeForce RTX GPU (20 系列及更新版本)、DGX Spark/GB10、Mac M4 或更新版本


RAM

8 GB RAM 以上


磁碟空間

建議:20 GB 以上


網際網路

運作時無須連線
下載時需要連線


PAIR 常見問答

NVIDIA Personal AI Router (PAIR) 這款軟體可連接相容的 macOS、Windows 和 Linux 系統,以及 NVIDIA RTX™ GPU 與 DGX Spark 系統,打造個人家用 AI 叢集。PAIR 將地端 AI 推論工作負載分散於可用裝置,並將提示、檔案與代理情境保留在使用者家用網路。

個人家用 AI 叢集可連接同一個區域網路上的多部相容裝置,讓它們分享可用的運算資源進行地端 AI 推論。PAIR 讓 Mac、NVIDIA RTX 系統與 DGX Spark 系統為地端 AI 應用程式與代理提供更多承載能力。這些裝置仍是個別系統,負責處理並行作業;PAIR 不會將它們合併至單一虛擬 GPU。

下載 PAIR 後安裝在支援的系統、將相同區域網路上的裝置配對,然後將它們新增至叢集。連結後,支援的應用程式與代理可透過 PAIR 地端端點傳送推論請求。

NVIDIA PAIR 需要相容的 macOS、Windows 或 Linux 系統以及支援的硬體。需求可能包括特定作業系統版本、NVIDIA RTX GPU、GPU 記憶體、系統記憶體、處理器、儲存空間,以及區域網路連線。如需最新細節,請參閱 NVIDIA PAIR 登陸頁面上的系統需求。

PAIR 專為私密地端推論而設計。提示、檔案與代理情境會保留在使用者區域網路,而非傳送至雲端推論服務。


PAIR 支援資源

PAIR 支援資源

下載 NVIDIA Personal AI Router (PAIR)