專家連署:AI帶來滅絕風險

科技領袖們警告人工智慧帶來的風險。圖為人工智慧示意圖。(Pixabay)
科技領袖們警告人工智慧帶來的風險。圖為人工智慧示意圖。(Pixabay)

【記者殷瑞娜/報導】

週二(5月30日),包括OpenAI執行長阿特曼(Sam Altman)在內的一群科技行業領袖和科學家,警告人工智慧帶來的風險,並將其潛在影響與核戰爭比較。

他們在舊金山非營利組織「人工智慧安全中心」網站上,發布的一份聲明中說:「降低人工智慧滅絕人類的風險,應該與其他社會規模的風險(例如流行病和核戰爭),一起成為全球優先事項。」

該聲明仍在邀請連署者。

目前,該聲明已得到350多名從事人工智慧研究的高階主管、研究人員和工程師的簽署,包括OpenAI執行長阿特曼、谷歌DeepMind執行長哈薩比斯(Demis Hassabis)以及Anthropic創辦人兼執行長阿莫戴(Dario Amodei)。

辛頓(Geoffrey Hinton)和班吉歐(Yoshua Bengio)通常被認為是現代人工智慧的「教父」,也簽署了聲明。

人工智慧安全中心的聲明承認,人們對人工智慧的潛在影響進行了激烈的討論,尤其是自去年11月推出ChatGPT以來。

「人工智慧專家、記者、政策制定者和公眾,越來越多的討論人工智慧帶來的緊迫風險。」聲明說,「即便如此,也很難表達對一些先進人工智慧最嚴重風險的擔憂。下面的簡潔聲明旨在克服這一障礙,並展開討論。」


阿特曼在3月曾承認,他本人對人工智慧感到「有點害怕」。因為他擔心專制政權會開發和利用這種技術。其他一些科技領袖,如特斯拉公司的執行長馬斯克(Elon Musk)和前谷歌前執行長施密特(Eric Schmidt)等等,也都對人工智慧可能給社會帶來的風險提出了警告。

在3月份的一封公開信中,馬斯克、蘋果公司聯合創始人沃茲尼亞克(Steve Wozniak),以及一些科技界領袖敦促人工智慧研究實驗室停止訓練比GPT-4更強大的AI系統,信中說:「當代人工智慧系統已開始在一般任務上與人類展開競爭。」

在上週,施密特再次警告說,隨著人工智慧技術的發展,人類將面對與AI相關的「生存風險」。◇


延伸閱讀
鴻海:AI 伺服器或倍數成長
2023年05月31日 | 1年前
AI假圖瘋傳 致美股崩跌10分鐘
2023年05月23日 | 1年前
DeepMind創辦人:AI將取代大量白領
2023年05月14日 | 1年前
馬斯克:AI搶工作 人生意義難尋
2023年05月20日 | 1年前
防機密外洩 蘋果禁用ChatGPT
2023年05月19日 | 1年前
AI造假挑戰演藝界 湯姆漢克斯憂心
2023年05月18日 | 1年前
取消