專家連署:AI帶來滅絕風險

週二（5月30日），包括OpenAI執行長阿特曼（Sam Altman）在內的一群科技行業領袖和科學家，警告人工智慧帶來的風險，並將其潛在影響與核戰爭比較。

他們在舊金山非營利組織「人工智慧安全中心」網站上，發布的一份聲明中說：「降低人工智慧滅絕人類的風險，應該與其他社會規模的風險（例如流行病和核戰爭），一起成為全球優先事項。」

該聲明仍在邀請連署者。

目前，該聲明已得到350多名從事人工智慧研究的高階主管、研究人員和工程師的簽署，包括OpenAI執行長阿特曼、谷歌DeepMind執行長哈薩比斯（Demis Hassabis）以及Anthropic創辦人兼執行長阿莫戴（Dario Amodei）。

辛頓（Geoffrey Hinton）和班吉歐（Yoshua Bengio）通常被認為是現代人工智慧的「教父」，也簽署了聲明。

人工智慧安全中心的聲明承認，人們對人工智慧的潛在影響進行了激烈的討論，尤其是自去年11月推出ChatGPT以來。

「人工智慧專家、記者、政策制定者和公眾，越來越多的討論人工智慧帶來的緊迫風險。」聲明說，「即便如此，也很難表達對一些先進人工智慧最嚴重風險的擔憂。下面的簡潔聲明旨在克服這一障礙，並展開討論。」


阿特曼在3月曾承認，他本人對人工智慧感到「有點害怕」。因為他擔心專制政權會開發和利用這種技術。其他一些科技領袖，如特斯拉公司的執行長馬斯克（Elon Musk）和前谷歌前執行長施密特（Eric Schmidt）等等，也都對人工智慧可能給社會帶來的風險提出了警告。

在3月份的一封公開信中，馬斯克、蘋果公司聯合創始人沃茲尼亞克（Steve Wozniak），以及一些科技界領袖敦促人工智慧研究實驗室停止訓練比GPT-4更強大的AI系統，信中說：「當代人工智慧系統已開始在一般任務上與人類展開競爭。」

在上週，施密特再次警告說，隨著人工智慧技術的發展，人類將面對與AI相關的「生存風險」。◇