AI 巨頭自食其果：網絡世界早已知曉的教訓

AI 巨頭正在學習現代網絡上每個人都早已知曉的事

作者：Alistair Barr

這裡有一個關於人工智能（AI）的絕佳諷刺。多年來，科技巨頭一直辯稱，只要資訊在互聯網上可以公開獲取，就可以用於 AI 模型的開發和輸出。他們稱之為「公平使用」（fair use）。內容擁有者曾試圖阻止這種行為，但並未成功。

現在，Anthropic、OpenAI 和 Google 正在發現互聯網其餘部分早已通過痛苦經驗學到的教訓：一旦你將東西放到網上，人們就會找到方法以你不喜歡且無法阻止的方式來使用它。

最新的衝突點是一種被稱為「蒸餾」（distillation）的技術，即利用一個 AI 模型的輸出來改進另一個模型。Anthropic 表示，競爭對手正在大規模收割其輸出，將價值數十億美元的研究成果變成對手的捷徑。OpenAI 和 Google 最近也發出了類似的警告。

這種擔憂是顯而易見的。如果其他人可以用極低的成本重塑大部分智能，為什麼還要花費數十億美元來構建最好的 AI 模型呢？

這是一個合理的商業擔憂。但尷尬的部分在於：

對稱性

從宏觀角度看，「蒸餾」與 AI 公司一直對互聯網其餘部分所做的事情極其相似。在未經許可的情況下免費抓取網頁內容。將其轉化為你銷售的產品。辯稱這是公平使用。希望律師稍後能解決細節問題。

Anthropic 表示競爭對手正在從其頂尖模型中提取智能。而網站擁有者在過去三年中一直表示 Anthropic 從他們那裡提取了智能。雙方都辯稱這違反了他們的服務條款。這種對稱性難以忽視。

儘管 Anthropic 自詡為最具道德的 AI 公司，但它在這一點上表現最差。其數據吸取機械人抓取網頁的次數，與該公司回饋給網站的轉介流量相比，比例高達數千比一。

雙方的機械人

Anthropic、OpenAI，尤其是 Google，將此框架化為網絡安全問題，指出成群的機械人正在「攻擊」他們的模型以提取智能。但是，他們也一直在對許多網站做同樣的事情，用大量的機械人抓取活動轟炸網站，導致網站擁有者的營運成本飆升。一些網站不僅在未經許可的情況下被使用內容，還要為此支付更高的代價。

AI 研究人員表示，蒸餾與網頁抓取（web scraping）不同。但 AI 行業甚至無法決定蒸餾是否可行，或者界線應該劃在哪裡。

有一種原始且良性的蒸餾形式，即實驗室利用自己模型的輸出來創建不同且通常較小的模型。然後，就是 Anthropic 所說的「蒸餾攻擊」，即競爭對手利用他人的 AI 輸出來開發或改進自己的產品。

然而，即使在這裡，界線也變得模糊。一些 AI 研究人員現在擔心 Anthropic 的激進立場會損害所有類型的蒸餾。開源 AI 專家 Nathan Lambert 將此稱為「蒸餾恐慌」。

因此，讓我為你總結一下 AI 巨頭的觀點：他們可以在未經許可的情況下免費從網絡提取智能。這與蒸餾不同，蒸餾是可以接受的。噢，但當蒸餾涉及以他們不喜歡的方式使用他們的內容時，就不行了。

「貓捉老鼠的遊戲」

這種扭曲的論點正被現代網絡殘酷的現實所摧毀。Anthropic 花了數月時間收緊對其頂尖模型的訪問權限，以阻止競爭對手學習太多。這些努力要麼適得其反，要麼只是激發了更複雜的規避方法。

一旦資訊上網，聰明的人就會想出如何收集、重新組合並從中獲利。這對網誌、照片、軟件代碼、影片，以及 AI 巨頭珍貴的模型輸出都是如此。

「這始終是一種貓捉老鼠的遊戲，」牛津中國政策實驗室（Oxford China Policy Lab）研究員 Zilan Qian 告訴 Business Insider。只要 AI 模型的輸出存在於世界上，「人們就可能會找到獲取它的方法。」

事實上，蒸餾另一家公司的 AI 模型甚至可能屬於公平使用。這些法律論點可以是雙刃劍。

歡迎來到新的互聯網，Anthropic、OpenAI 和 Google。習慣它吧。