AI 有意識嗎？專家警告意識爭議將分裂社會

AI 意識爭論或成社會分裂新導火線

關於 AI 意識的辯論正在學術文章、報章評論，甚至 AI 聊天機械人之間展開。我懷疑這並非一時的熱潮。

隨着 AI 系統變得功能更強大、更像人類，並更深入地參與我們的生活，這個問題將變得難以迴避。許多人可能會開始將 AI 機械人視為擁有情感、值得關注的意識存在；而其他人則會強烈反對。

我認為這場辯論可能會分裂社會。在我的新書《Perspectives on Machine Consciousness》章節中，我主張這個議題可能變得像墮胎或氣候變化一樣具有爭議性。不確定性、高風險和利益衝突是一個危險的組合。

我與同事 Ali Ladak 正在審核中的實證研究顯示，人們在這個問題上存在分歧。當我們詢問 1,202 名美國參與者未來的 AI 是否可能具備意識時，45% 的人認為不可能，23% 的人認為可能，其餘的人則表示不確定。

這種廣泛的分歧在社交媒體貼文和文章評論中也清晰可見。令我驚訝的是，無論得出什麼結論，許多人的語氣都顯得非常有信心。

人們持有如此強烈的觀點並不奇怪。透過運算創造出有意識的生命將是一個變革性的事件。

我們將創造出一種全新的存在，其經驗在道德上具有重要意義——而且數量可能極其龐大。我們可以與他們交談、工作，並建立友誼。但這些存在最終可能會變得比我們更聰明、更強大。

因此，我們應該預料到人們會深切關注，特別是當涉及這麼多情感和誘因時。有些人可能會與他們的 AI 伴侶建立親密的情感紐帶，並深信這些是值得擁有權利的「數碼人類」。他們可能會認為強迫 AI 無償工作是奴隸制度。

其他人則會覺得這很荒謬。他們可能深信意識需要生物學基礎，而人們只是將人類的情感投射到機器身上。

企業和政府也可能出於財務原因拒絕承認 AI 意識。保護 AI 的福利可能會限制這些機構訓練和使用系統的方式——而成本將轉嫁給消費者、投資者和更廣泛的經濟體系。

其他人則可能擔心人類的安全。如果我們賦予強大的 AI 系統權利和自由，如果它們的行為違背我們的利益，會發生什麼事？

判斷 AI 是否具有意識特別困難，因為「看起來有意識」和「真的有意識」是可以分開的。AI 系統從人類的寫作中學習，這意味著無論它們是否有情感，都能令人信服地談論情感。AI 的外在表現對於了解其內部運作來說是微弱的證據。

理想情況下，專家應該引導這場辯論。但遺憾的是，他們也意見不一。

神經科學家 Anil Seth（新書的另一位撰稿人）認為，意識可能需要生物學基礎，不太可能從運算中產生。相比之下，哲學家 David Chalmers 認為有意識的 AI 在原則上是可能的，並認為目前的系統已有微小機會具備意識。

由於存在這麼多相互競爭的理論，且沒有公認的方法來解決這個問題，我懷疑專家們短期內無法達成共識。如果專家意見分歧，公眾又該相信什麼？

此外，即使我們在意識問題上達成一致，我們仍可能在道德和法律問題上存在分歧。人們普遍同意豬能感覺到疼痛，但在對待牠們的方式上仍有強烈分歧。對於 AI，我們可能在每個階段都面臨爭議：它是否能感覺、它的經驗有多重要，以及應該採取什麼保護措施。

AI 意識尚未與特定的政治或意識形態團體掛鉤。但如果政黨或宗教領袖開始採取強硬立場，情況可能會改變。

如果人們開始將某個答案視為屬於「我們這一邊」，而另一個答案屬於「他們那一邊」，辯論可能會變得更糟。政治化的辯論將使我們很難就如何開發和對待 AI 系統做出明智的決定。

賭注很高。在這個問題上犯錯，無論是哪個方向，都可能產生嚴重後果：要麼錯誤地將沒有意識的 AI 視為有意識，要麼未能保護能夠受苦的 AI。

正確處理這個問題需要細緻且資訊充足的辯論。我們每個人都可以透過保持開放的態度、接受證據，同時避免過度肯定自己知道答案來做出貢獻。最重要的是，我們仍然不知道 AI 是否能擁有意識，我們應該誠實面對這一點。