Perplexity 推出本地 AI 代理：零 Token 成本且保障隱私
Perplexity 推出咗一個可以喺你自己電腦運行嘅 AI 工具，唔使次次執嘢都扣分（Token），仲更加保密。
點解重要
以前用 AI 好似去茶餐廳叫外賣，資料要傳去人哋廚房（雲端），仲要按量收費。而家就好似你自己買咗部多功能電飯煲返屋企，煮飯唔使再畀外賣費，啲食材（資料）亦唔會離開你個廚房，對做生意要處理商業秘密嘅朋友嚟講好重要。
新手貼士
如果你想試下本地運行 AI，要留意電腦嘅顯示卡（GPU）夠唔夠強，因為本地 AI 好似跑車咁，好睇引擎性能㗎！
術語小字典
Token：AI 計算量嘅單位，好似預繳電話卡嘅餘額咁，用得越多扣得越多。
Agent（代理）：唔只係問答機器人，而係好似個小助手咁，識得幫你拆解步驟去完成一個複雜任務。
Local（本地）：指程式喺你自己部電腦入面行，唔使經互聯網傳去人哋公司嘅伺服器。
Perplexity 推出本地 AI 代理，實現零 Token 成本
重點摘要
- Perplexity 推出了一款名為「Portable Computer」的新型代理式 AI 工具，可在用戶裝置上本地運行。
- 該工具使用 Qwen 3.8 和 NVIDIA Nemotron 3.5 Lightning 等小型高效模型。
- 本地完成的任務不會產生 Token 費用，但如有需要仍可連接至雲端模型。
在推出代理式 AI 工具「Personal Computer」幾個月後，Perplexity 現在為偏好在本地運行 AI 代理的用戶引入了新選擇。
該公司今日宣佈與 NVIDIA 合作推出其首個本地優先代理「Portable Computer」。Portable Computer 將完全在裝置上運行。該代理連同模型及其他工具均駐留在用戶的本地裝置中。這確保了用戶數據不會被發送到雲端，並為敏感數據提供了更高水平的隱私保障。
Portable Computer 將使用極小型的模型，例如 Qwen 3.8 和 NVIDIA Nemotron 3.5 Lightning。根據 Perplexity 的說法，這些模型能夠執行複雜的代理任務並在本地硬件上運行，使其成為其新型本地代理式 AI 的理想選擇。
然而，Portable Computer 仍然支持網頁搜索和使用尖端模型進行高級推理等功能。如果當前任務需要任何此類功能，Perplexity 表示代理在繼續操作前，務必會先徵求用戶的許可。
該公司還表示，由用戶機器本地處理的工作將不會產生任何 Token 費用。對於需要執行大量任務而又擔心耗盡 Token 或產生額外費用的用戶來說，這可能會帶來巨大的改變。
Perplexity 的 Portable Computer 目前支持 NVIDIA 的 DGX Spark 平台，並可運行 Qwen 3.8 或 PPLX 27B（這是 Qwen 3.8 模型的後期訓練版本）。該公司還表示，即將支持 NVIDIA Nemotron 3.5 Lightning 模型以及 NVIDIA RTX GPU。訂閱了 Perplexity Pro 或 Max 的用戶從今天起可以在其 NVIDIA DGX Spark 系統上設置 Portable Computer。
資料來源
本文由 AI 自動翻譯整理，內容以原文為準。