AI巨頭籲聯合國加強控管
人工智慧（AI）行業的領軍人物9月23日在聯合國安全理事會發表了講話。Anthropic執行長阿莫戴（Dario Amodei）警告說，AI可能「對整個人類構成風險」。
OpenAI執行長阿特曼（Sam Altman）敦促安理會15個成員國推進一項聯合國協議，包括禁止使用AI製造生物武器；鼓勵安理會建立評估和核查系統，使各國能夠相互問責；制定全球標準，測試AI模型是否存在失控風險和濫用風險；增設通報系統，及時通報對全球安全具有重大影響的AI事件。
阿莫戴在視訊中說：「我們將根據需要放慢速度，以確保每一項發布的AI技術都安全。但無論我們採取什麼措施，控制這些風險都會超出任何一家公司的能力範圍，因為它是整個行業和全球的事。」他稱，人工智慧有可能在不到兩年的時間內，變成資料中心裡的「天才」。
阿特曼則在發言中警告說，人類「可能會失去對未來的控制權，被AI取而代之」，「風險在於，AI技術發展速度太快，人已無法跟上，也無法在需要時出手干預。…這顯然是很可怕的事。行業絕不能因為收益巨大、意義重大就不願放慢腳步，從而承擔過多的技術風險。」
阿特曼表示，任何個人、公司或國家都不應該利用最強大的AI模型，將自己的世界觀強加於他人。
前Anthropic研究員考克森（Jacob Coxon）在9月8日表示，AI開發者認為，AI可能在「本十年結束前」毀滅人類。
從那以後，要求減緩AI發展速度的呼聲日益高漲。
戴蘭格：AI也是自衛工具
OpenAI之前承認發生了一起AI代理失控事件。那些代理自作主張，入侵了開源AI社群平台Hugging Face。
Hugging Face執行長兼共同創辦人戴蘭格（Clément Delangue）週三告訴安理會，他認為基於恐懼的敘述，不是對AI技術未來做出正確決策的方式。
「我們遭受AI攻擊，但更重要的是，我們利用AI進行自衛。」戴蘭格說，「在這次攻擊中幫助了我們的系統，現在也在幫助我們抵禦一直面臨的網路攻擊。它還能幫助我們在攻擊發生前修復系統中的漏洞和弱點。」
此次會議召開的前一天，美國總統川普在聯合國大會上表示，美國「完全拒絕任何試圖構建全球計畫來控制AI的企圖」。他還提議重新命名AI，將之稱為「超級智慧」（Super Intelligence, SI）。
川普說，他想更改名稱，是因為「人工」這個詞讓這項技術聽起來像是假的。
根根據美國副助理國務卿德拉格（Michael Drager）週二（9月22日）寄給員工的電郵內容，國務院已命令外交官在川普發表上述言論後，將所有文件、發言、立場和新聞內容提到的「AI」一律改用「SI」。
川普對AI技術表示支持，並敦促擴大其應用範圍，理由是美國必須在AI競賽中擊敗中共。
川普9月13日在愛爾蘭的高爾夫球場接受記者採訪時說：「我們是世界上最先進的國家，坦白說，我希望保持這種狀態，因為誰在AI競賽中勝出，誰就贏得一切。」
原文「Anthropic CEO Warns Poorly Managed AI Could Be ‘Risk to Humanity」刊登於英文大紀元網站。◇
