Apple 洽購 AI 壓縮技術：讓強大模型直接在 iPhone 運行

Apple 洽購 AI 壓縮技術：讓強大模型直接在 iPhone 運行

Apple 正與一家矽谷小型公司進行洽談，該初創公司聲稱可以將強大的人工智能模型縮小到足以直接在 iPhone 上運行的程度。PrismML 的行政總裁向 CNBC 透露了這一消息。PrismML 是加州理工學院（California Institute of Technology）的衍生公司，並獲得 Khosla Ventures 的支持。該公司於週二公開發佈了阿里巴巴開源模型 Qwen 的壓縮版本。

該公司表示，他們將模型從大約 54 GB 縮減至不到 4 GB，這使得所有 270 億個參數都能在 iPhone 15 或更新型號上運行。PrismML 行政總裁 Babak Hassibi 告訴 CNBC，Apple 和其他公司一直在評估該初創公司的模型，並測量其在設備上的速度、能源效率和性能。

「他們現在確實正在評估我們的技術，」Hassibi 在談到 Apple 時表示。他形容目前的討論仍處於非常早期階段，尚不清楚最終會走向何方，但「進展非常順利」。

Apple 未有立即回應置評請求。《The Information》此前曾報導過 PrismML 的這項突破。

此次發佈正值 Apple 開放 iOS 27 公測版的一天後，這讓 iPhone 用戶首次廣泛接觸到該公司延遲已久的 Siri 重大更新。Apple 正努力使 Siri 比 OpenAI 和 Anthropic 的助手更具競爭力，同時將更多個人資訊和 AI 處理保留在設備上。

該公司的方法可以解決 Apple AI 策略面臨的核心限制之一。最強大的模型通常需要過多的記憶體和處理能力，難以在智能手機上運行。

Apple 可以將複雜的請求發送到基於雲端的模型，但直接在 iPhone 上運行更多 AI 將減少將數據發送到遠端伺服器相關的延遲，降低雲端運算成本，並支持公司的私隱宣傳。這也將允許某些功能在沒有互聯網連接的情況下運作。

Creative Strategies 總裁兼首席分析師 Carolina Milanesi 表示，較小的模型可以讓 Apple 將更多高要求的功搬到 iPhone 上，包括計算攝影、影片生成以及依賴敏感個人數據的健康或健身工具。

「在設備上能做的事情越多越好，」她指出用戶會希望保持私隱的健康和藥物數據。

PrismML 表示，它通過大幅簡化內部資訊的存儲方式來縮小 AI 模型——將每個值從 16 位元（bits）減少到僅一到三個可能的值。這顯著減少了存儲和運行模型所需的記憶體。Hassibi 將其比作晶片行業從 8 位元轉向 4 位元運算的過程，但更進一步。

該初創公司表示，與在現有硬件上運行的傳統版本相比，壓縮後的模型使用的記憶體減少了 10 到 15 倍，生成回應的速度快 6 到 8 倍，能耗減少 3 到 6 倍。

然而，Hassibi 承認這需要權衡。他說，PrismML 的模型通常會損失幾個百分點的整體性能，事實回憶能力會在推理、數學和編碼等技能之前減弱。

PrismML 正在免費發佈兩個壓縮版本的模型。它們旨在於日常設備上運行，包括 iPhone、MacBook 和搭載 Nvidia 的個人電腦。

這項技術源於 Hassibi 在加州理工學院的研究小組。該大學擁有相關專利，並將其獨家授權給 PrismML。今年 3 月，該公司在 Khosla Ventures 和其他投資者的支持下籌集了 1,625 萬美元的種子輪融資。

Hassibi 表示，Google 的開源模型 Gemma 是下一個目標，隨後是更大的模型，包括目前通常需要數據中心硬件的尖端實驗室模型。

根據 PrismML 的說法，這項技術最終可能遠遠超出手機和筆記本電腦，擴展到機械人、自動化系統和其他需要快速做出決策而不依賴雲端連接的產品。

「智能本地化並能快速運行是非常重要的，」他說。

Apple 的設備端優勢

Apple 已經在本地運行其 AI 系統的部分功能，包括翻譯、部分摘要以及與個人資訊密切相關的功能。更複雜的請求則被路由到 Apple 的私有雲端基礎設施或外部模型。

Asymco 創辦人 Horace Dediu 表示，Apple 可能正試圖將絕大多數常見的 Siri 互動保留在設備上，同時將要求最高的任務留給雲端。

他指出，優勢不僅在於使用更少的記憶體，還在於在相同的物理限制內裝入更強大的模型。

「他們正試圖弄清楚在設備上能裝入多大、多聰明的模型，」Dediu 說。將常見請求保留在本地可為 Apple 帶來更低的延遲、更高的私隱度，並可能降低授權和雲端成本。

Apple 在應用這些模型方面可能具有優勢，因為它同時設計 iPhone 的晶片和軟件，使其能夠更緊密地控制 AI 在設備上的運行方式。

但分析師警告說，PrismML 的主張仍需在受控演示之外得到證明。

Counterpoint Research 研究總監 Tarun Pathak 表示，模型在長提示詞下的表現、多任務處理期間的電池消耗以及在數百萬次請求中的可靠性將至關重要。

「最終的測試將是數百萬次的查詢、數千種設備組合以及大規模的穩健測試，」Pathak 說。

IDC 客戶處理器研究負責人 Phil Solis 表示，功耗可能是最大的懸念。一個強大到足以頻繁使用——或在後台持續運行以執行代理類任務——的模型，即使需要的記憶體較少，也可能會耗盡手機電池。

對晶片需求的影響

PrismML 的發佈也正值一場激烈辯論之際：AI 效率的提高是否最終會減少對記憶體晶片和昂貴數據中心基礎設施的需求。

記憶體已成為消費電子產品和 AI 伺服器中最大的限制和成本之一。摩根士丹利（Morgan Stanley）估計，Apple 在 2027 財年的平均動態隨機存取記憶體（DRAM）每位元成本可能按年增長約 190%，NAND 成本增長約 180%。NAND 通常用於快閃記憶體盤和固態硬碟。

該機構預計 Apple 將把同類 iPhone 18 型號的起售價提高約 200 美元，以保護利潤率。

PrismML 表示，其方法可以讓原本需要 8 個 GPU 的雲端模型在 1 個 GPU 上運行，同時也允許曾經需要伺服器的模型轉移到手機和筆記本電腦上。

這可能會減少給定 AI 任務所需的記憶體或計算能力。但這並不一定意味著整體晶片需求會下降。

D.A. Davidson 分析師 Gil Luria 表示，縮小模型並不會消除對處理器或記憶體的需求。它可能只是將更多此類晶片從數據中心轉移到手機和其他設備中。

「並不是說你不需要晶片了，」Luria 說。「你仍然需要 GPU，仍然需要記憶體。」他補充說，在個人設備上運行 AI 實際上可能比使用共享數據中心基礎設施效率更低，因為手機中的晶片大部分時間可能處於閒置狀態。效率的突破也可能導致更多的使用，而不是降低支出，因為更便宜、更快的 AI 會催生新產品，並促使消費者更頻繁地運行模型。

儘管如此，市場對於任何暗示 AI 可能需要比預期更少記憶體的跡象反應迅速。美光（Micron）股價在 3 月 Google 發表關於在不損害模型性能的情況下減少記憶體使用的 TurboQuant 論文後暴跌，儘管股價隨後回升。PrismML 的公開發佈讓日常用戶和投資者有機會測試其聲稱的收益是否在實驗室之外依然成立。對於 Apple 而言，直接在 iPhone 上運行更強大的 AI 可以幫助公司改進 Siri，而無需放棄區分其產品的私隱和硬件整合。

「雲端和設備端 AI 的結合可以提供更完整、高效且以私隱為中心的 AI 體驗，」Counterpoint 的 Pathak 說。「複雜的任務將卸載到雲端，而敏感、對延遲敏感且與私隱相關的任務將在設備端執行。」