NVIDIA Personal AI Router (PAIR) 常見問答

本次發佈重點將 llama.cpp 與 RTX Spark 支援帶到 PAIR，同時在 GitHub 上建立我們的公共開發與貢獻工作流程。

最新消息

• 支援 llama.cpp。 直接從 PAIR 安裝並管理 llama.cpp，從 Hugging Face 下載相容的 GGUF 模型，並在配對的裝置之間路由推論請求。
• 引擎發佈選項。 自訂本地與配對裝置上PAIR 管理的引擎的啟動參數與環境變數。 引擎支援上下文大小等調整設定。
• 支援 RTX Spark。 PAIR 的 Windows on ARM 版本已透過 RTX Spark N1X 硬體上的 llama.cpp 與 CUDA 驗證。

社群貢獻

• 新增透過 Ollama 與 LM Studio 路由的 Anthropic Messages API，讓相容的用戶端（例如 Claude Code）使用 PAIR 的模型感知路由與故障轉移。 謝謝 @Ratherrayees！ (#27)
• 重用 HTTP 連線進行健康檢查，提升引擎監控效率。 感謝 @Psych0h3ad! (#37)
• 已修正僅在成功儲存新的對等級簽註後才會傳送通知，導致不必要的叢集信任更新。 謝謝 @RecursiveIntell! (#62)
• 節點之間的工作負載同步已固定：廣播會保留事件順序，失敗的代理通知仍可重試。 謝謝 @mkalkere！ (#80)
• 已修正排程程式優先級更新在通知失敗後會被標記為交付，允許重試並保持狀態精確。 謝謝 @sylvesterkaczmarek! (#122)
• 從本地 PAIR 設定進行隔離服務整合與代理故障轉移測試，防止測試讀取或覆寫開發者設定。 謝謝 @somtri！ (#95)
• 已修正發布意圖範例，以使用所需的服務版本金鑰。 謝謝 @somtri！ (#120)
• 更新貢獻者針對開發分支與重新開發的說明。 謝謝 @somtri！ (#126)
• 固定節點卡在多 GPU 系統上僅顯示第一個 GPU；現在則會顯示每個 GPU。 感謝 @CryptoJones！ (#34)

相容性說明

• PAIR 的本地端點現在會遵循各引擎的 CORS 政策，而非允許所有瀏覽器原點。 瀏覽器型用戶端可能需要額外的引擎設定。 對於 Ollama，請在「引擎啟動選項」中使用 OLLAMA_ORIGINS 設定允許的來源。
• PAIR 的官方名稱已從「Personal AI Router」變更為「PAIR」。 在 macOS 系統上，使用者需要卸載舊版本，但應拖放至「應用程式」資料夾，以免遺失模型。
• 卸載更新版的 PAIR 時，不會卸載由舊版 PAIR 安裝的 LM Studio 版本。 使用者如果希望從 ~/.lmstudio 目錄手動卸載 LM Studio。