Easy Circle Logo
返回新聞列表
我試用了 HP Omnibook Ultra 上的本地 AI:一部無代幣費用、強大且私隱度極高的猛獸

我試用了 HP Omnibook Ultra 上的本地 AI:一部無代幣費用、強大且私隱度極高的猛獸

2026年11月8日·ZDNet·4 次閱讀
小圈
小圈解讀

呢篇文講述作者用一部超強性能嘅 HP 筆記簿電腦,喺唔使連去雲端嘅情況下,自己喺電腦入面行 AI 幫手寫程式,結果一毫子代幣費都唔使畀,仲好有私隱添。

點解重要

平時我哋用 ChatGPT 可能要畀月費,仲要擔心中小企嘅生意資料上傳咗去人哋伺服器會唔安全。如果將來呢類強大電腦普及咗,大家就可以喺屋企或公司「自給自足」行 AI,既慳錢又保密。

新手貼士

如果你想試下喺自己電腦行 AI 而唔想畀錢訂閱,可以留意下有無標榜「AI PC」或者有強大圖像顯示卡(GPU)嘅電腦,再配合一啲開源軟件就可以開始。

術語小字典

代幣 (Token):AI 處理文字嘅單位,好似去機鋪要買代幣咁,雲端 AI 通常按你用咗幾多字嚟收錢。

本地 AI (Local AI):即係將 AI 程式直接裝喺你部電腦度行,好似以前買 CD 裝軟件咁,唔使上網連去人哋公司個腦度。

開放權重模型 (Open-weights model):即係一啲公開畀大眾免費下載同使用嘅 AI 核心,好似「公版」食譜咁,邊個都可以攞嚟煮。

統一記憶體 (Unified Memory):電腦入面一個共用嘅高速緩存區,等處理器同圖像處理器可以好似喺同一個廚房攞嘢食咁快,提升 AI 運算速度。

ZDNET 的關鍵要點

基於 Nvidia RTX Spark 架構構建的個人電腦(PC)在處理 AI 任務方面表現卓越。

運行本地開放權重模型(open-weights model)無需支付每個代幣(token)的費用,亦無使用限制。

運行本地 AI 模型最大的優勢在於私隱。

在個人電腦時代的初期,《PC Magazine》的傳奇編輯 Bill Machrone 提出了「Machrone 定律」:「你想要的機器永遠大約價值 5,000 美元。」或許由於目前的記憶體(RAM)危機,這個數字在今天會稍高一點,但經通脹調整後,Machrone 定律依然成立。證據?我桌上現在就放著一部價值 7,000 美元的筆記簿電腦,我必須承認,我真的、真的很想要它。

HP OmniBook Ultra 絕對是一部猛獸。它由 Nvidia 的 RTX Spark 驅動,配備 128 GB 的統一記憶體、2 TB 的高速 Gen5 NVMe 儲存空間,以及一個視覺效果極佳的 16 吋 OLED 顯示屏。它重接近 5 磅,但它與其說是一部便攜式 PC,不如說是一個個人數據中心,提供 1 petaflop 的 FP4 AI 運算效能。

我並非這部 PC 的目標市場對象。但在使用幾週後,我感到非常心動。對於 AI 相關工作,它的圖像處理器(GPU)效能是普通 Copilot+ PC 的許多倍,並且能夠充分利用統一記憶體。

本地 AI 如何加速我的項目

我的項目之所以能如此迅速完成,原因之一是我能夠不間斷地運行它。我最初使用 Copilot 協助建立工作環境,採用了開源的 llama.cpp 推理運行環境、開放權重的 Qwen3.8-27B 大型語言模型,以及一個名為 Cline 的編碼工具(作為 Visual Studio Code 的擴充功能運行)。在 Copilot 的額外協助下,我配置了這些工具,為我想要的應用程式編寫了詳細規格,將其交給 Cline,然後基本上就站在一旁觀察。

我對這些組件的運作方式有一個大致的了解,但如果要靠自己閱讀、研究並通過反覆試錯來手動安裝,可能需要數週時間才能完成設置並運行。利用 Copilot 編寫的 PowerShell 腳本,我在半小時內就啟動了項目。

當項目運行時,我可以即時觀察 AI 的「推理」過程。它偶爾會要求我批准某些操作,但大部分時間它都在編寫代碼、運行測試、觀察結果、修改代碼、再運行更多測試,如此類推。整個過程是「人類參與其中的代理式編碼」(human-in-the-loop agentic coding)的教科書式範例,而我所要做的就是每隔一段時間檢查一下進度。

我知道它很忙碌,因為當大型語言模型(LLM)運作時,我在房間的另一頭都能聽到風扇轉動的聲音。令人驚訝的是,機器從未變得燙手;儘管如此,這類工作最好將筆記簿電腦放在桌面上進行,而不是放在大腿上。

我給了 LLM 一份填滿我文章連結的試算表,這是我在過去兩年中辛勤建立的。它不僅找到並擷取了清單中幾乎每一篇文章,還建立了一個獨立程序,從 Internet Archive 的 Wayback Machine 中擷取了大約 90 個返回 404 錯誤的頁面,然後向我展示了另外約 90 個它完全無法擷取的頁面。我大約花了 30 分鐘來審查並解決最後那一組問題。

一切塵埃落定後,我得到了兩個文件夾,每個文件夾包含 1,951 個檔案 —— 一組是原始 HTML,第二組是 Markdown 格式。最後,我讓本地 AI 建立了一個簡單的腳本,讓我可以在新文章發佈時將其添加到存檔中。

我無法形容這個結果令我多麼高興。

成本是多少?

整個項目使用了 479 次 LLM 推理調用,處理了近 5,000 萬個邏輯代幣,總淨成本正好是 0.00 美元。

使用這些現代 AI 編碼工具最令人沮喪的一點,就是無法估計它們會使用多少代幣。

我本可以使用商業 AI 訂閱服務來完成這項工作,但我會像盲人摸象一樣。沒有一家銷售這些計劃的公司能告訴你一個特定項目會花費多少錢。你的實際消耗量 —— 以及最終的帳單 —— 取決於你無法預先知道的因素。代理程式需要在上下文(context)中保留多少代碼?它需要多少次迭代和調試循環?你會使用哪些模型?

ChatGPT Plus(配備 Codex)、Claude Code Pro 或 GitHub Copilot 每月費用都在 10 到 20 美元之間。這對於簡單任務來說綽綽有餘,但對於這個項目,我很快就會觸及這些入門級計劃的使用限制。為了繼續使用每月 20 美元的計劃工作,我必須頻繁停頓,或者購買額外的額度,或者升級到每月 100 美元且使用限制較高的計劃,例如 ChatGPT Pro、Claude Code Max 或 GitHub Copilot Max。

看著這些數字,我感受到了 Anthropic、OpenAI 和 Microsoft 商業模式的走向。即使每月花費 100 美元,如果我決定運行一些更具雄心的項目,我也很容易會遇到速率限制,工作必須等待數小時甚至數天,直到下一個週期開始。

對於專業編碼員來說,這些帳單可能會變得非常昂貴。在最近一集 Nilay Patel 的 《Decoder》播客中,分析師 Joey Brookhart 提供了一個令人震驚的數據:「前 5% 的 Claude Code 用戶平均每年花費 18,000 美元。非 Claude Code 用戶每月花費則遠低於 75 美元。」

現在我知道原因了。

最大的益處

使用免費的開放權重模型配合開源編碼工具,讓你可以自由實驗而無需擔心帳單。但這只是故事的一部分。更大的益處在於,你不會將潛在的敏感或機密數據發送到別人的雲端;通過完全本地化的 AI 技術棧,你的提示詞(prompts)、文件和推理工作負載完全不需要離開 PC。

對於我的項目來說這不是大問題,因為它使用的是已經發佈到網上的內容。但我心裡還有另外幾個應用程式,在準備好之前我不想與任何人分享。其中一個涉及大量財務文件、信用卡結單和發票。我很樂意將這些數據輸入到我自己 PC 上的 LLM 中,但我不放心將這些文件上傳到雲端託管的編碼服務。

我會做足夠多的這類工作來證明花費 7,000 美元買一部 PC 是合理的嗎?我很想說是,但我的執業會計師(CPA)只會盯著我足足一分鐘,然後耐心地解釋「投資回報率」是如何運作的。「不,Ed,你無法證明這筆支出是合理的。」

好消息是,Machrone 定律與摩爾定律(Moore’s Law)相輔相成,後者描述了一個可靠的技術趨勢:運算能力大約每 18 個月翻一倍。這意味著再過三年,我將能以 7,000 美元垂涎一部運算能力是現在四倍的 PC。但到那時,像這部 HP OmniBook Ultra 這樣的配置可能會成為主流的商務級機器,以目前價格的一小部分就能買到。

在那之前,我會等待。

資料來源

本文由 AI 自動翻譯整理,內容以原文為準。

本地AIHP OmniBookNvidia RTX人工智能網絡安全科技硬件