馬斯克等上千人連署 籲暫停大型AI研究

特斯拉（Tesla）創辦人馬斯克（Elon Musk）和許多人工智慧（AI）專家、企業領導人簽署了一封公開信，呼籲所有AI實驗室應立即暫停訓練比GPT-4更強大的AI系統，否則可能危及社會和全人類。

這封信由非營利性的「生命未來研究所」（Future of Life Institute）發布，直至截稿時已有1,125人簽署。

簽署者不乏科技界名人，例如馬斯克、蘋果聯合創辦人沃茲尼亞克（Steve Wozniak）、Stability AI創辦人莫斯塔克（Emad Mostaque）、AI領域重量級科學家班吉歐（Yoshua Bengio）和羅素（Stuart Russell）等。

信中指出，大量研究表明，有能力與人類競爭的AI系統，可能對人類社會構成深遠的風險，這點也得到頂級AI實驗室承認。

高階AI開發應暫停半年

專家們在信中呼籲，高階AI開發至少應暫停6個月，讓AI實驗室和獨立專家利用這段時間，共同制定一套開發與設計先進AI的共享安全協議，並由獨立的外部專家進行嚴格監督。如果這種暫停計畫不能迅速推出，政府應介入並頒布暫停命令。

信中形容，近幾個月AI實驗室陷入「一場失控的競賽」，競相開發越來越強大的數位頭腦，然而即使是AI的創造者，也沒有人能確實理解、預測或可靠的控制AI。

信中寫道，「只有當我們確信它們的影響是積極的，且它們的風險是可控的時候，才能開發強大的AI系統。」

專家們強調：「AI的研究和開發，應重新聚焦於使當今強大的、先進的系統，更準確、安全、可解釋、透明、健全、一致、可信和忠誠。」

信中還呼籲，開發者應與政策制定者合作，加強對AI的治理和監管，設立公共資金，並建立資源充足的機構，應對AI可能對經濟與民主的破壞。

雖然特斯拉也將AI用於自動駕駛系統，但馬斯克一向直言不諱的表達他對AI的擔憂。

馬斯克曾是OpenAI公司的聯合創辦人，但他對OpenAI的現況並不滿意，並在2月發推文說：「OpenAI剛創立時是一間開放的非營利性公司（這就是為何我把它命名為OpenAI），以作為對谷歌（Google）的制衡，但現在它已成為一個封閉的營利性公司，實際上由微軟控制，這完全不是我的初衷。」

學者：AI可能造成嚴重傷害

作為簽署公開信的學者之一，紐約大學名譽教授馬庫斯（Gary Marcus）對路透社說：「這封信並不完美，但其精神是正確的：我們需要放慢腳步，直到我們更了解這麼做的後果。」

他表示，「它們（AI）可能會造成嚴重傷害⋯大公司對他們在做的事情，變得越來越神祕，這使社會很難抵禦任何可能出現的傷害。」◇