導演諾蘭提AI發展的後果：新技術需要問責制

《奧本海默》導演諾蘭（Christopher Nolan）最近談到了人工智慧（AI）和他的新電影之間的比較，並提及快速發展的AI技術如果進入武器設施可能會發生很可怕的事。

據《Variety》報導，諾蘭在紐約《奧本海默》試映會後的一次談話中對於AI發展談到了它可怕的地方。諾蘭表示，當AI獨立負責核武器不受人們控制，可能會發生可怕的事，他還表示開發新技術必須保持「問責制」，也就是必須保持承擔後果的一種責任追究制度。

諾蘭說：「我所在行業的人在談論這個問題，他們只是不想為演算法所做的任何事情承擔責任。」諾蘭繼續說：「應用於人工智慧，這可能會發生一種很可怕的事，太可怕了。尤其是人工智慧系統最終將進入防禦性基礎設施，它們將負責核武器。」

諾蘭提到操作AI工具的人與責任結合的重要性，「如果說這是與使用、程式設計和應用人工智慧的人分離而獨立的實體，那麼我們就注定失敗了。這必須與責任相結合，我們必須讓大家對他們使用的工具負責。」

大導演諾蘭的新電影《奧本海默》講述了二戰期間美國高層如何指派奧本海默（席尼墨菲 飾演）開發出原子彈的過程。然而，具有毀滅性原子彈的產生，也相應出現了責任問題。

當談到人工智慧的潛在影響力，以及《奧本海默》中原子彈的發展與AI技術發展之間的比較時，諾蘭強調了「問責制」的重要，諾蘭說：「當你用技術進行創新時，你必須保持問責制。」

諾蘭補充說：「當我與人工智慧領域的頂尖研究人員交談時，他們真的稱現在是他們的『奧本海默時刻』。他們在回顧歷史，思考『科學家在開發新技術可能產生意想不到的後果時，他們應承擔哪些責任？』」

被譽為「AI教父」的辛頓博士（Geoffrey Hinton）奠定了生成式人工智慧的基礎，生成式人工智慧提供了ChatGPT等聊天機器人的動力。在5月發表的《紐約時報》一篇文章中，他後悔研發人工智慧，並擔心人工智慧會為世界帶來嚴重危害。

此外，辛頓博士告訴《泰晤士報》說：「我用藉口來安慰自己：如果我沒有這麼做，其他人也會這麼做，很難看出如何阻止壞人利用它來做壞事。」◇