
Apple 研發全新 Mac 應用程式 Harbor:讓運行本地 AI 模型變得簡單
Apple 準備推出一個叫 Harbor 的新工具,等大家可以將屋企部 Mac 變成私人 AI 伺服器,唔使經雲端都用到強大 AI。
點解重要
對香港生意人嚟講,最緊要係「私隱」同「慳錢」。用呢個工具,公司嘅商業秘密唔使傳上網,而且可以用幾部舊 Mac 駁埋一齊當超級電腦用,唔使買貴機。
新手貼士
如果你想試玩 AI 又驚資料外洩,可以留意之後呢個 Harbor App。只要你有 Apple 晶片(M1、M2、M3 等)嘅 Mac,就可以喺自己部機度跑 AI,唔使畀月費之餘,斷咗網都用得!
術語小字典
本地運行 (Local):即係喺你自己部電腦度處理資料,好似你自己喺屋企煮飯咁,唔使去餐廳(雲端)食,資料唔會流出去。
Thunderbolt 5:一種極速嘅傳輸線接口,好似一條超級高速公路,可以將幾部 Mac 嘅威力連埋一齊。
開放權重模型 (Open-weight models):一啲公開畀大眾免費使用嘅 AI 大腦,你可以想像成係一啲公開嘅食譜,任何人都可以攞嚟自己煮。
Apple 揭曉全新「Harbor」應用程式:「將你的 Mac 變成私人 AI 推理伺服器」
洩漏者 Aaron Perris 發現了 Apple 正在開發一款名為 Harbor 的全新 Mac 應用程式,該程式讓在一或多部 Mac 上運行本地 AI 模型變得輕而易舉。
今年 Mac 變得越來越受歡迎,這既是因為有像 MacBook Neo 這樣價格親民的選擇,也是因為它作為在 Mac Studio、Mac mini 等設備上本地運行 AI 模型的工具。
看來 Apple 計劃進一步加強後者的使用場景,因為洩漏者 Aaron Perris 發現了一款名為 Harbor 的新 Mac 應用程式,其設計旨在將你的 Mac 變成一個私人的 AI 推理伺服器。
以下是 Perris 在 X 上發布的詳細資訊:
「Apple 正在開發一款名為 Harbor 的新應用程式。Harbor 將你的 Mac 變成私人 AI 推理伺服器。在 Apple silicon 上本地運行開放權重模型——你的數據永遠不會離開你的硬件,亦沒有任何東西會傳送到雲端。透過 Thunderbolt 5 連接多部 Mac 電腦以匯集……」
正如貼文所述,以下是該應用程式的功能:
Harbor 將你的 Mac 變成私人 AI 推理伺服器。在 Apple silicon 上本地運行開放權重模型——你的數據永遠不會離開你的硬件,亦沒有任何東西會傳送到雲端。透過 Thunderbolt 5 連接多部 Mac 電腦以匯集統一記憶體,從而運行單部電腦無法單獨處理的大型模型及實現更高的並行處理能力。
以下是功能亮點:
設置只需幾分鐘,而非幾小時:「Harbor 會自動透過 Thunderbolt 5 偵測你的裝置以組成集群。插好線、啟動,你就可以開始運行——無需手動配置,無需命令行,亦無需基礎設施專業知識。」
直接下載並運行模型:「在應用程式內瀏覽、下載並載入開放權重模型。Harbor 處理模型管理,讓你專注於工作而非設置。」
集群擴展:「連接兩部或更多具備 Thunderbolt 5 功能的 Mac 電腦,Harbor 會將它們的統一記憶體匯集成單個推理資源。運行超出任何單部電腦容量的模型,或在你的集群中處理更多並行請求。」
Harbor 目前正在 Apple 旗下的 Claris 品牌下進行私人預覽,但看來我們很有可能在未來幾週或幾個月內看到它向公眾發佈。
你有興趣在你的 Mac 上使用 Harbor 嗎?請在評論中告訴我們。
資料來源
本文由 AI 自動翻譯整理,內容以原文為準。
