DeepMind 研究員因 AI 軍事合約辭職：「我無法問心無愧地留在 Google」

獨家新聞

DeepMind 研究員因 AI 軍事合約辭職：「我無法問心無愧地留在 Google」

作者：Hugh Langley

Alex Turner 表示他目前尚未找好下一份工作。

一名 Google DeepMind 研究員表示，他因公司與國防部合作而辭職，這加劇了這間科技巨頭內部對其軍事合作夥伴關係的反彈。

Alex Turner 是一名在 Google DeepMind 從事 AI 安全工作超過兩年的研究科學家，他告訴 Business Insider，他已於 6 月辭職。Turner 表示，他在 Google 簽署協議允許五角大樓將其 AI 用於機密行動後做出了這個決定。

五角大樓在 5 月初證實，已與 Google 以及包括 Microsoft、Amazon 和 OpenAI 在內的一組其他公司簽署了關於「合法行動用途」的協議。

「當 Google 簽署這項協議時，我的良知簡單地說了聲『不』，」他告訴 Business Insider。

在 5 月五角大樓宣布與 Google 及其他實驗室達成協議後，Google 發言人表示：「我們仍然致力於私營和公共部門的共識，即在沒有適當人類監督的情況下，AI 不應被用於國內大規模監控或自主武器。」

Google 的五角大樓協議在其員工隊伍中引起了一些反彈。4 月份，在 Google 約 195,000 名員工中，約有 600 人簽署了一份請願書，要求公司不要參與任何涉及機密工作的交易。一項機密協議限制了 Google 對其 AI 如何被使用的監督程度。

一名 DeepMind 研究員在 X 上表示，他對 Google 的五角大樓協議感到「羞恥」，而另一名員工在 5 月於內部發布了辭職信，同樣引用了 Google 與美國軍方日益密切的關係。

Turner 表示，他從 2 月份開始考慮離開 Google，當時他首次預料到 Google 會簽署五角大樓的協議。

「我想如果他們沒有簽署協議，我會多待幾個月。當 Google 簽署時，我就是無法再做任何工作。我的大腦說『不』，」他在週三發表的一篇網誌文章中寫道。他告訴 Business Insider，他目前還沒有找好下一份工作。

Turner 表示，今年早些時候，他提出了一個軍事 AI 框架，希望 Google 能夠採納，其中包括確保人類對 AI 目標系統控制權的條款。

Google 發言人告訴 Business Insider，公司一直樂於聽取 Turner 的想法。

Google 改變 AI 承諾

2025 年初，Google 更新了其 AI 原則，刪除了不追求將 AI 用於武器或大規模監控的承諾。Google DeepMind 行政總裁 Demis Hassabis 當時共同撰寫了一篇網誌文章宣布這些變化。該決定在當時引起了一些員工的反彈。

在離職前發給同事的內部訊息中，Turner 表示，Hassabis 在員工大會上稱其原則沒有改變的言論，與刪除承諾的決定之間存在脫節。

「如果我連這個容易核實的說法都不能相信，我該如何對他所說的保護我們的細心監督感到安心？」Turner 在 Business Insider 看到的訊息中寫道。

Turner 表示，他在今年早些時候引起了 Google 高層的注意。

他說他曾與 Google 首席科學家 Jeff Dean 共進午餐討論他的擔憂。他還協助組織了一封給 Dean 的員工聯署信，Dean 曾公開支持 Anthropic 在與白宮就軍事用途 AI 發生爭執時的立場。該信呼籲 Google 在與五角大樓的任何協議中劃定紅線，例如禁止 Gemini 在沒有人類監督的情況下駕駛自主武器。

Turner 表示，他在今年早些時候將他的軍事 AI 框架建議發送給了 Hassabis，而 Hassabis 告訴他讓兩位在 Google 負責政策的高層進行評估。在討論了後續步驟後，Turner 說他停止收到回覆。不久之後，國防部證實已簽署協議。

「在那一點上，我無法問心無愧地留在 Google，所以我離開了，」Turner 在他的網誌文章中寫道。

Turner 表示，他在規劃下一步行動的同時，正從事獨立的 AI 安全和保障工作。

「當一名員工離開頂尖 AI 實驗室時，通常會投入另一家的懷抱，」他寫道。「他們通常會以這種方式獲得巨額獎金。但我不是那樣做的：我沒有與競爭對手的實驗室調情。」

「我現在失業了，」他補充道。