Nvidia PAIR 透過網絡連接電腦　加速 AI Agent 運算效率

Nvidia PAIR 透過網絡連接電腦　加速 AI Agent 運算效率

Nvidia PAIR（全稱為 Personal AI Router，個人人工智能路由器）是一個聰明的解決方案，旨在解決一個我們許多人尚未遇到——至少目前還未遇到——的問題。這是一個為經常需要在家庭環境運行複雜或高 GPU 負載 AI Agent（人工智能代理）的人士而設的新系統。如果你的 Agent 任務可以拆分成多個可以並行運作（即互不依賴）的子代理，PAIR 就能透過將工作卸載到網絡上的其他電腦，幫助加速 Agent 運行或騰出主機系統的資源。

換句話說，理論上我可以在我的桌面電腦上運行 PAIR，但讓我的 MacBook Pro 處理分類和分析數以萬計照片的繁重工作，或者讓你管理你的智能裝置（我住的是非智能家居），而我們各自仍能在自己的電腦上玩遊戲。這一切運算都保留在本地進行。

PAIR 是開源的；它於今天進入 Beta 測試階段，並已在 GitHub 上架。它亦基於標準技術構建，包括用於本地網絡裝置發現的 mDNS，以及用於保安的 MTLS。

運作原理

PAIR 可在 Windows、Mac 和 Linux 系統上運作，但我認為主系統必須運行 RTX 級別的 GPU。Nvidia 沒有提及 Windows 或 Linux 的系統要求，但它確實需要一部配備 M4 世代處理器或更新型號的 Mac 電腦。由於 Agent 在遠端系統上運行，這些系統必須配備並能夠使用必要的 AI 模型，目前它僅兼容 Ollama 和 LM Studio 引擎。（目前尚不清楚這是否包括新的 LM Bionic。）

當你在每個系統上安裝軟件並將它們連接後，你就可以在主系統上運行你的 Agent，例如 Hermes Desktop 或 OpenClaw。該 Agent 會編排整個流程，例如決定和編碼需要分配哪些子代理，並將子代理發送到 PAIR，就好像 PAIR 是引擎（作為代理伺服器）一樣。PAIR 隨後將子代理分配給其他電腦，並接收它們的結果回傳給 Agent。Agent 決定需要運行什麼，而 PAIR 則處理在哪裡運行以及管理 Agent 與子代理之間的溝通。

功能限制

PAIR 根據多項標準分配子代理：系統是否接受任務分配、是否安裝了必要的推理引擎和模型、系統當前的負載量，以及擁有多少剩餘的 GPU 頻寬。Nvidia 表示正在努力擴展和完善這些標準。它設有一個儀表板視圖，顯示實時狀態。

這款軟件並不能補償一個較難處理的問題：即給定系統的資源不足。它不會匯集 GPU 處理能力或記憶體，因此如果系統本身無法容納較大型的模型，你便無法使用它來運行這些模型。但如果各個子代理在獨立的系統上運行，至少並行任務不會擠佔單一的記憶體池。它也不會將子代理進一步拆分以跨系統工作，每個子代理都會被分配到單一系統。

為了達到最佳運作效果，你可能需要讓許多電腦保持開啟電源，而這些電腦在平時你可能並不想開著。目前亦未清楚如果有人在系統正在運行子代理時，決定串流影片或玩遊戲會發生什麼情況。