【名家專欄】「溫水煮青蛙」與AI真實危機

許多人肯定聽過這個故事。把青蛙扔進沸水裡，牠會立刻掙扎著爬出來，但如果把這隻青蛙放到冷水裡，慢慢加熱，溫度一點一點的升高，它卻渾然不覺危險，直到為時已晚。這就是廣為人知的「溫水煮青蛙」故事。我們大多數人對此深信不疑。問題是，這個故事並非事實。

青蛙失去大腦 才不掙扎

這可以追溯到一位名叫戈爾茨（Friedrich Goltz）的德國生理學家。1869年，他進行了一系列實驗，其目的頗為不尋常：確定靈魂究竟存在於大腦還是脊髓中。他切除了青蛙的部分大腦，並觀察失去大腦後青蛙的行為。他發現，失去大腦的青蛙會平靜的待在逐漸升溫的水中，不會試圖逃脫。然而，大腦完好的正常青蛙則會感受到水溫升高並游出水面。

這可以追溯到一位名叫戈爾茨（Friedrich Goltz）的德國生理學家。1869年，他進行了一系列實驗，其目的頗為不尋常：確定靈魂究竟存在於大腦還是脊髓中。他切除了青蛙的部分大腦，並觀察失去大腦後青蛙的行為。他發現，失去大腦的青蛙會平靜的待在逐漸升溫的水中，不會試圖逃脫。然而，大腦完好的正常青蛙則會感受到水溫升高並游出水面。

這個發現在隨後幾十年間被廣泛傳播，脫離了其原本的背景，並被重新塑造成如今的警世故事。後來生物學家證實了最初的發現：一隻身處冷水中的青蛙，會在水溫升高到無法忍受之前跳出水面。

而會留在熱水裡的，正是那隻已喪失獨立思考能力的青蛙。

150多年來，我們一直把這個故事當作既定真理來重複。我們接受了關於「忽視漸進變化之危險」的錯誤警告，卻沒有意識到警告本身可能就是錯的。

這本身就足以引起我們的思考。而在4月，卡內基美隆大學、牛津大學、麻省理工學院、加州大學洛杉磯分校等英美頂級大學的研究團隊，發表了一項關於人工智慧（AI）如何影響人類認知的研究，這不再僅僅是一個有趣的史實註腳。研究結果引人入勝，而他們選擇的比喻引起許多人注意，他們用的是「溫水煮青蛙」的故事。

研究描述了人類使用AI的代價，這種代價「類似於『溫水煮青蛙』效應，每次遞增都感覺沒有代價，直到累積的影響變得難以應對」。

他們描述的這種事物，並非在某個戲劇性的時刻突然出現，而是在平凡的日子裡，通過一次又一次的普通決定，逐漸地、一次又一次地出現。

他們有意無意的引用了一個關於動物的故事，這種動物只有在失去思考能力後才會停止逃跑。

在這項研究中，參與者要解答一系列數學推理與閱讀理解題，其中一組全程可以使用AI助手，另一組則必須獨立完成。隨後，研究人員在毫無預警的情況下移除AI助手，並讓所有參與者獨立完成相同的題目。

AI組的表現明顯更差。這個結果或許並不令人意外，真正令人驚訝的是：實驗中的每位參與者都有一個「跳過」按鈕。使用這個按鈕沒有任何懲罰，堅持完成實驗也沒有任何獎勵。嘗試還是放棄，完全由他們自己決定。

AI組選擇跳過的頻率幾乎是其他組的兩倍。

這並非源於缺乏解決問題的能力，而是失去了嘗試的意願。僅僅讓AI系統代勞處理了十分鐘的各種難題後，參與者的選擇便發生了某種變化。研究人員把這種喪失命名為「有益的困境」（desirable difficulties）。這是一個源自認知科學的術語，旨在描述那種富有成效的掙扎——這種掙扎在當下構成了一種挑戰，而從長遠來看，正是人類藉以學習、成長並提升自身能力的過程。

未知帶來的不安、難題帶來的阻力、在沒有現成答案的情況下努力解決問題，這些都不是學習的障礙，它們本身就是學習。而AI旨在最大程度地幫助人們快速上手，它每次都能消除這些障礙。

令人擔憂的並非AI會在任何永久性或可衡量的意義上削弱人類的能力，而是它會降低人們嘗試的意願。它削弱了人們勇於挑戰的意願，而這正是構建和維持智能的基石。一個從不舉重物的人，不會一夜之間失去舉重的生理能力。

這就是研究人員引用「溫水煮青蛙」比喻的含義。他們並非預測會有任何單一的災難性失敗，而是在觀察一系列細微的人類妥協的累積過程。

當下正在成長的年輕人每天都在經歷著這一切。美國民調機構蓋洛普最近一項調查發現，42%的Z世代受訪者認為AI正在損害其獨立思考能力，並會讓他們未來的學習更加困難。

這些兒童和青少年的大腦仍在發育，其認知習慣、應對困難的能力，以及與奮鬥的關係仍在逐漸形成。然而，他們所處的環境卻被優化成盡可能高效的消除這些阻力。研究人員明確警告說，這可能會造就一代人，他們失去了在沒有技術支持的情況下進行有效奮鬥的能力。這並非遙不可及的可能，而是一個正在發生的趨勢。

這一切的核心諷刺之處在於，我們花了150年時間反覆講述一個關於人類如何未能察覺漸進危險的錯誤故事。我們不加批判的重複它，不加核實，因為它感覺熟悉且符合直覺。如今，那些記錄著我們這個時代最重大的漸進式認知轉變的科學家們，卻也用同樣的錯誤故事來解釋他們所觀察到的現象。

是時候改寫「溫水煮青蛙」的故事了。

一隻大腦發育正常的青蛙會在水溫過高之前跳出水面。這種感知水溫上升、識別正在發生的事情，並選擇做出反應的能力絕非小事。在當下這個特殊時期，它幾乎決定了一切。

真正值得探討的問題不是我們是否在使用AI。大多數人已經在使用了，而且這種情況不會改變。真正的問題在於我們如何應對這種日益嚴峻的形勢。（小標為編輯所加，信宇編譯）

——作者凱．魯巴塞克（Kay Rubacek），是一位電影製作人、作家和Podcast主持人。她致力於揭露貶低人類生命和主權的制度及意識形態。

★相關閱讀：

AI時代 出版業最憂「版權問題」

https://www.epochtimes.com.tw/n503410.html