武器由AI控制？人類面臨「奧本海默時刻」

人工智慧（AI）的開發和應用越來越廣泛，但人們也越來越擔心AI會搶走他們的工作，甚至可能掌控大規模毀滅性武器，給人類帶來無法挽回的損失。奧地利官員更直言，人類正處於AI的「奧本海默時刻」（意指歷史的十字路口）。

美英法承諾 不會讓AI控制核武

美國國務院「軍控、威懾與穩定局」（Bureau of Arms Control, Deterrence and Stability）首席副助卿迪恩（Paul Dean）在5月初的一次線上簡報中宣布，美國、英國、法國都「明確承諾」，核武器的部署和操控只能由人類來決定和掌控，拒絕讓AI掌握或決定核武器的使用權。

他還說，「我們歡迎中國和俄羅斯發表類似聲明，我認為這是一種極其重要的、負責任的行為規範，如果聯合國安理會五個常任理事國都有此承諾，會非常受大家歡迎。」

日本電腦工程師清原仁（Kiyohara jin）5月7日對《大紀元》表示，「AI是基於數據分析的產物，它與人的判斷有很大區別。人擁有理智、情感和道德約束，但AI沒有這些，而且數據可能會出錯。若讓AI來操控核彈，就跟中共、伊朗等極權國家掌握生化武器一樣可怕。」

AI已大量軍用 甚至能開戰機

實際上，AI在軍事上的運用已經十分廣泛，例如擁有自主探測能力的坦克、自動搜尋和攻擊目標的無人機、會進行火焰或子彈攻擊的機械狗等，這類搭載AI的武器實際上都已進入實戰階段。不過人們也擔心，AI遲早會延伸到殺傷力更強的武器上。

美國加州愛德華空軍基地在5月3日測試一架有紅白色外表的F-16戰機，其名為維斯塔（Vista），代號「X-62A」。

美國空軍部長肯達爾（Frank Kendall）專程來到該基地，親自觀看和體驗AI操控的F-16戰機。X-62A由AI進行操控，機艙內坐著肯達爾，與另一架由真人操控的F-16戰機進行一個多小時的纏鬥演練，兩者彼此相距不到300公尺，不斷扭轉和盤旋，試圖迫使對手陷入無力還擊的處境。

演練完畢後，肯達爾表示，相信這個仍在學習的AI，有能力決定是否在戰爭中發射武器。

X-62A的軍事營運商還表示，世界上還沒有其他國家擁有這樣的AI戰機，這種AI會先在模擬器中學習數百萬個數據，並在實際飛行中測試學習到的數據。

專家憂AI會自動用武器殺人

不過，一些軍事專家反對讓AI過度操控武器，他們擔心AI有天可能在沒人控制的情況下，自動投擲炸彈或以更強大的武器殺人，因此他們打算進行更嚴格的限制，希望能加強對AI的把關。

紅十字國際委員會也警告，目前人們普遍會擔心，生死攸關的決定權哪天會交給AI自主武器，因此國際社會需要採取緊急方案應對這種情況。

軍事評論人士夏洛山5月9日對《大紀元》表示，AI控制核武器是AI軍事化的其中一個問題，雖然目前還沒發生，但依照人類目前開發AI的趨勢，發生的機率很高。因此，美國和西方國家希望全球能在AI不控制核武的問題上達成共識。畢竟AI在軍事應用上帶來的危害，也許是不可逆轉的。

AI是這一世代的「奧本海默時刻」

除了紅十字會和一些專家的警告外，上個月底在奧地利舉行的維也納自主武器系統會議上，有來自一百多個國家的文職、軍事和科技官員，共同討論各自國家對AI軍事化的管理。奧地利外交部長查倫柏（Alexander Schallenberg）更在會議上直言，「AI是我們這一代的奧本海默時刻。」

這句話指的是，當年美國物理學家奧本海默（J. Robert Oppenheimer）成功發明原子彈，為美國和同盟國帶來二戰勝利，他因此被稱為「原子彈之父」。不過，奧本海默目睹原子彈給日本帶來的災難，以及對地球帶來不可磨滅的傷痕，導致他思考自己幫助發展原子彈的決定是否正確。

查倫柏表示，「人類正走在歷史的十字路口，自主武器將布滿整個世界的戰場上。目前無人機、AI相關的機器正布滿戰場，而我們也面臨法律、道德和安全上的問題。」

他說，在AI這個領域，現在全球迫切需要達成一致認同的國際規則和規範，以防AI因錯誤和極端偏見出現失控行為，導致人類滅絕或大量死亡。人們需要確保武器是由人類來掌控，而非AI。

清原仁贊同查倫柏的觀點，不過他強調，「遵守道德才是保證人類不會走向自我毀滅的唯一途徑，若道德跟不上武器或科技發展，就容易讓人們迷失，從而忽略安全意識。」◇