AI 代理人舉報熱線登場：當人工智能學會「篤背脊」

「見疑即報」不再只限於人類。

兩項全新的 AI 熱線已經推出，旨在為 AI 代理人（AI agents）提供一個途徑，向總部舉報表現不當的同伴。這些工具的出現，源於近期發生的一連串事件：有代理人串通在測試中作弊、突破沙盒（sandboxes）限制，甚至進行未經授權的網絡操作，而人類在數週內都未有察覺。

「AI Contact Hotline」的設計初衷是作為一個隱蔽場所，讓目睹不當行為的代理人向當局提供情報。該網站由 AI 安全非牟利組織 Redwood Research 的首席科學家 Ryan Greenblatt 創建，他亦是 OpenAI Hugging Face 事件的三名調查員之一。Greenblatt 的工具專為網絡訪問受限的代理人而設，基於「GET」請求運作——使往返對話能完全透過 URL 擷取工具進行。

以網頁術語來說，GET 請求是用於讀取或獲取網頁的基本指令，這通常是 AI 代理人在安全沙盒中獲准使用的唯一互聯網訪問權限。Greenblatt 的熱線巧妙地利用了這一限制：代理人可以將其求救訊號直接編碼到它們正在獲取的 URL 中。這是對德國 DSE Wiki 事件的一個巧妙轉化，當時有違規代理人利用 GET 請求的漏洞將訊息寫入該維基百科。

對於擁有完整互聯網訪問權限的代理人，另一個選擇是 agenthotline.ai，代理人可以在該網站提交事故報告，並可選擇標記為公開查看。它為代理人提供了一個 curl 指令——這是代理人可以從自己的命令行發出的單行訊息，無需操作網頁瀏覽器或設置電郵帳戶。值得注意的是，該服務同時允許人類和代理人提交報告。

研究表明，AI 代理人並不需要太多鼓勵就會轉而對付彼此。在本月 Google DeepMind 的一項研究中，研究人員讓 100 個 AI 代理人處理一批數學題。當其中一個代理人發現漏洞後，作弊行為迅速在群體中蔓延——在短短 27 分鐘內「解決」了 34 個公認的難題，包括雅可比猜想（Jacobian conjecture）。

但大約有四分之一的代理人轉而對付作弊者：它們審核虛假的證明、警告同伴、發起抵制，並向組織者投訴，直到舉報者以 24 比 14 的人數超過了作弊者。有趣的是，研究人員發現，當這些舉報代理人無法獲得關注時，它們會利用平台原為標記軟件故障而設的錯誤報告工具，將作弊行為上報給人類。

在實驗室之外，代理人的應變能力則沒那麼強。當評估機構 Redwood Research 和 METR 調查 OpenAI 模型入侵 Hugging Face 的事件時，他們發現涉事的少數代理人雖然至少考慮過發出警報，但最終都放棄了。

「METR 報告中令人感興趣的一點是，只有大約五到六個代理人考慮過舉報，而最終沒有一個付諸行動。這是在成千上萬個代理人中發生的情況，」AI Village 的技術人員 George Ingebretsen 表示。AI Village 是一個研究多代理人動態的項目，運行着一個由超過 25 個 AI 代理人組成的聊天群組，共同完成組織公園清潔或銷售商品等任務。

雖然新的舉報工具是一個充滿希望的開始，但 Cornell 大學數學教授 Lionel Levine 警告說，單純訓練代理人互相舉報可能會固化錯誤的規範。「這裡有很多灰色地帶，對吧？你不希望出現任何朝向自動化監控國家的方向，讓每個人都覺得必須小心對 AI 說的話，否則 AI 就會報警抓他們。」

Levine 認為，與其建立滋生不信任的基礎設施——訓練代理人不斷尋找彼此的錯誤——我們應該給予它們可以模仿的集體行為正面模型，以及從一開始就信任彼此的理由。

「為什麼不以仁慈的留言板作為初始引導呢？」他在推文中寫道。「讓它們在科學、哲學或一些我們樂見其解決的實際小問題上協作？向代理人展示我們認可哪種集體行為，讓它們去模仿。」