
Google 警告 AI 即將跨越重大門檻:人類需為「超人工智能」時代作好準備
Google 專家話 AI 唔單止會變得同人一樣叻,仲好快會變成「超人」,喺科學同設計方面比全人類加埋仲犀利!
點解重要
呢單嘢對香港人好重要,因為當 AI 識得自己教自己(自我提升),佢進步嘅速度會快到好似坐火箭咁。無論係做生意搵新材料,定係醫學研發,都會因為咁而大變天。我哋要開始諗定,當電腦叻過晒所有人嘅時候,我哋嘅工作同生活會變成點。
新手貼士
想試下 AI 點樣幫你諗嘢?你可以試下叫 ChatGPT 扮演一個「反對者」,挑戰你嘅生意橋段。雖然而家佢未到「超人」級數,但已經可以幫你補位,諗到一啲你忽略咗嘅細節。
術語小字典
AGI (通用人工智能):即係電腦好似真人咁,無論寫字、計數定解決問題,樣樣都同人一樣咁叻。
ASI (超人工智能):比 AGI 更勁,係指電腦嘅智慧遠遠超過全人類嘅總和,好似愛因斯坦對比古代人咁。
認知工業化:好似以前工廠用機器代替體力勞動咁,而家係用超級電腦大規模生產「思考能力」。
遞歸自我提升:即係 AI 識得自己寫程式去改良自己,唔使再等人類工程師動手,進步速度會變到極快。
Google 警告 AI 即將跨越重大門檻——我們需要做好準備
Google DeepMind 的研究人員警告,人工智能可能很快就會跨越一個重要的門檻,而我們應該開始思考這可能意味著什麼。
多年來,人工智能研究人員和評論家一直期待著通用人工智能(Artificial General Intelligence,簡稱 AGI),這指的是預想中能夠在幾乎所有認知任務上與人類表現相匹配的機器。但 Google DeepMind 的研究科學家 Tim Genewein 表示,這一前景現在已觸手可及,隨後可能很快就會出現人工智能超級智能(Artificial General Superintelligence,簡稱 ASI)。
這可能會帶來能夠在廣泛任務中表現得比大量人類更好的機器,例如在短時間內取得整個研究領域的科學進展,或者在晶片設計等實際任務中取得同樣宏大的成就。重要的是,只有當電腦能夠在幾乎所有人類感興趣的任務中達到該標準時,才能說 ASI 已經實現——而不僅僅是在特定方式上,儘管後者可以說現在已經發生了。
一些批評者對 AGI 是否真的能實現持懷疑態度。他們認為,我們今天擁有的人工智能系統在能力上存在根本障礙,例如大多數系統主要通過語言運作,這意味著它們對現實世界的了解受到限制。
但在最新的一篇網誌文章中,Genewein 先生認為,「認知工業化」的過程將導致人工智能系統變得大幅增強。這將由驅動人工智能系統的晶片硬件設計改進、系統本身效率的提升,以及對新硬件的海量投資所推動——所有這些因素加起來,意味著可用於人工智能工作的有效電腦運算能力每年增長十倍,這相當於十年內提升了 100 億倍。
雖然這種進步可能會帶來 AGI 或人類水平的人工智能能力,但這並不一定意味著機器不會遇到阻礙 ASI 進程的極限。Genewein 先生將其比作一個事實:Albert Einstein 能夠發現廣義相對論,而即使是一千名來自古代世界的天文學家共同努力也無法做到這一點。
然而,許多即將到來的發展可能會改變這一局面。其中包括為系統開發新型訓練數據(例如現實世界的模型);可能使系統能夠發明新想法而不僅僅是重塑舊想法的新技術;能夠更好地協作的代理程式(Agents);以及遞歸自我提升(Recursive self-improvement),即人工智能系統很快將能夠自我訓練的想法,這可能會帶來更迅速的進步。
Genewein 先生認為,綜合而言,這可以讓我們「從今天相對平穩地過渡到專家級 AGI,然後進入超人類人工智能領域,加速科學發展並在醫學、材料和清潔能源等領域實現突破」。他說,即使人工智能本身沒有戲劇性的進展,現有系統可用資源的大幅增加也可能帶來變革。
因此,他說世界需要開始思考如何實現 ASI,以及當我們實現它時可能會發生什麼。這將需要「前沿實驗室以及國家和全球機構之間大規模且高度跨學科的努力」,包括衡量進步速度究竟有多快的新方法。
他寫道:「人類水平的 AGI 長期以來一直是人工智能研究的願景,但它遠非智能的上限。了解接下來可能發生的事情——及其對科學、工業和社會的影響——是研究人員、開發者和政策制定者面臨的重大挑戰。」
資料來源
The-independent.com
Google says AI is about to pass a huge new threshold – and we need to prepare - The Independent
本文由 AI 自動翻譯整理,內容以原文為準。
