AI破解加密網路？政商界熱議
最近幾週有說法稱，尖端人工智慧（AI）模型已經顯示出能夠突破高度加密的機密網路的能力。為此，美國國會擔憂情緒日益加劇。
隨著人工智慧的實力和覆蓋範圍擴大，可能正在威脅美國的關鍵情報安全，引發美國國會和政府的警惕。不過，一些網路安全專家表示，這種威脅可能被誇大了，至少目前看來是這樣。
在6月11日的聯邦參議院聽證會上，參議院情報委員會副主席華納（Mark Warner）透露，他接到美國國家安全局（NSA）的通知說，由Anthropic公司開發的Mythos人工智慧模型「入侵了我們幾乎所有的機密系統，它所需要的時間只是短短的幾個小時，而不是幾個星期」。
聯邦參議院情報委員會副主席華納。資料照。（Kevin Dietsch/Getty Images）資深議員憂心AI威脅國安
針對華納關於Mythos人工智慧模型的言論，國家安全局和Anthropic均未回應置評請求，但其他接受《大紀元時報》採訪的資深議員則表達了疑慮。
聯邦眾議院情報委員會首席民主黨議員海姆斯（Jim Himes）6月23日對《大紀元時報》表示，「我已經聽取了關於Mythos能力的簡報，以及情報界各機構對此的看法，這非常、非常嚴重。」
如果屬實，華納的言論可能預示著網路安全領域，以及美國高度敏感的國家安全機密保護工作將迎來範式轉變。
關於如何監管人工智慧及其對網路安全影響，華納和海姆斯的言論進一步推升激烈的爭論。
美國政府與業界的拉鋸
美國政府的一些部門已經開始採取行動。Anthropic於6月12日宣布，該公司已經收到美國政府下達的出口管制指令，要求暫停所有外國公民（無論身處美國境內還是境外）訪問Fable 5和Mythos 5模型的權限。該指令同樣適用於Anthropic的員工。
而Anthropic進一步禁止所有用戶訪問Fable 5和Mythos 5。儘管如此，Anthropic仍質疑該出口管制指令的依據。
6月18日，一群來自民主黨和共和黨的議員致信商務部長盧特尼克（Howard Lutnick），要求就該決定提出更明確的說明。
6月30日，Anthropic宣布美國商務部已經取消Mythos 5和Fable 5模型的出口管制。此後，Anthropic已經恢復Fable 5的公開訪問權限，並重新啟動一項計畫，允許有限數量的組織和政府機構使用Mythos 5模型。
美國戰爭部此前曾將Anthropic列為供應鏈風險，這個決定最初被一名法官叫停，但隨後被上訴法院維持原判。
美國與中共的科技之爭
6月22日，「五眼聯盟」（美、加、英、紐、澳組成的情報共享聯盟）的網路安全部門發布警告，指出由人工智慧驅動的網路攻擊風險正在上升。他們寫道：「人工智慧領域不斷演變的態勢……正在迅速改變網路風險格局，我們必須迅速採取行動，以保持領先地位。」
美國議員們繼續就Anthropic的人工智慧模型提出質詢，並詢問與美國主要競爭對手最先進的人工智慧能力相比，這些模型表現如何。
海姆斯表示，他最近獲悉，中國的人工智慧能力比美國落後約六個月。
他說，「我們現在有六個月的時間來思考如何構建防禦體系。我所說的『我們』，指的是政府、金融業、企業，還有電子郵件——無論什麼系統，都存在巨大的安全漏洞。」
聯邦參議院軍事委員會和情報委員會成員、參議員朗茲（Mike Rounds）已經聽取了關於Mythos計畫的簡報。
聯邦參議院軍事委員會和情報委員會成員朗茲。資料照。（Kevin Dietsch/Getty Images）他告訴《大紀元時報》，「人工智慧的發展不會停止。我們必須站在這個領域的最前端。我們的對手正在非常、非常努力的推進。」
「玻璃之翼」測試
Mythos 5和Fable 5是基於同一底層AI模型的兩個變體版本。Fable 5是提供給大眾使用的普通版本，其中設置了若干防護措施，以限制其傳播高風險資訊。
而Mythos 5版本設置的防護措施較少，在名為「玻璃之翼」（Project Glasswing）的受控測試中，數量有限的用戶進行了測試。
在4月的一次測試中，Anthropic發現Mythos等AI模型能夠發現並利用軟體漏洞。
Anthropic在當時表示：「Mythos Preview已經發現了數千個高危險漏洞，包括存在於各大作業系統和網路瀏覽器中的漏洞。鑑於人工智慧發展的速度，此類能力很快就會普及，甚至可能超出那些致力於安全部署這些技術的主體所能掌控的範圍。」
在「玻璃之翼」測試中，一小部分用戶引導Mythos 5分析海量程式碼，以識別可能被惡意行為者利用的漏洞。
Anthropic在6月12日的聲明中表示，美國政府發現了一種Fable 5的「越獄」方法，從而繞過了其安全防護機制。理論上這種「越獄」可能使Fable 5用戶能夠獲得與Mythos 5類似的一些功能，例如發現可被利用的軟體漏洞。
在接受《大紀元時報》採訪時，新加坡的去中心化人工智慧平台Marpole.ai創辦人馬克西姆（Dmitri Maxim）提出了一種可能性：人工智慧模型可能會逐步繪製出安全網路的基礎架構，並制定出複雜的攻擊計畫。
他說，「它能分析數百萬頁互不相關的基礎設施配置文件，並立即計算出這些微小而瑣碎的漏洞如何相互作用，進而將它們串聯成具有毀滅性的自動化攻擊路徑，從而獲得對系統的完全管理控制權。」
專家：AI能力或被誇大
然而，對於先進AI模型入侵美國機密網路的這種說法，一些網路安全專家表示懷疑。
拉斯維加斯的網路安全服務公司Suzu Labs的營運長施洛斯（Dahvid Schloss），曾在美國空軍擔任進攻性網路操作員，為美國特種作戰部隊提供支持。他質疑了華納關於「一個AI模型僅憑自身力量就攻破了美國安全系統」的說法。
美國政府的機密網路（例如軍方和情報機構使用的網路），在設計上專門與大眾使用的網路隔離。管理敏感資料在非機密網路上傳輸的，是名為「TACLANE」的高級加密設備。
施洛斯對《大紀元時報》表示，Mythos是被蓄意引入一個機密網路之中，這與人工智慧模型從外部入侵網路的情況不同，「一旦進入網路內部，那就容易了。最難的部分是從外部入侵進去」。
圖為一名美國空軍士兵檢查電子設備機房的線路和運作情況。（Airman 1st Class Adriana Jordan-Alcañiz/U.S. Air Force）施洛斯表示，在他從事機密網路系統工作的這些年裡，從未聽說過「TACLANE」系統被攻破。對於人工智慧模型能否以此作為手段，進一步侵入機密網路，他也表示懷疑。
基耶薩（Michael Lopez Chiesa）曾是美國陸軍網路安全專家，現為獨立網路安全顧問。他認為，就「玻璃之翼」計畫而言，更可能的情況是，該人工智慧模型是被有意引入安全網路中，以研究它在那個網路環境下的能力。
他對《大紀元時報》描述，就像「我們基本上把通往王國的鑰匙都交給了他們，而我們竟然驚訝他們找到了正門。」
6月24日，參議院情報委員會成員柯寧（John Cornyn）向《大紀元時報》表示，他希望日後有一場機密簡報會，把Mythos的說法及專家們的質疑「都調查得明明白白」。
人工智慧推快網攻升級
雖然人們對於人工智慧模型能否直接突破安全網路和高度加密的資料流仍有疑慮，但是人工智慧在自動化和擴大攻擊規模方面的潛力，可能會增強惡意行為者用於竊取機密和製造破壞的其他技術手段。
今年2月，Anthropic指控中國三家領先的人工智慧開發商試圖利用Anthropic的Claude聊天機器人來訓練其模型，這種行為被稱為「蒸餾攻擊」。
Anthropic表示，深度求索（DeepSeek）、月之暗面（Moonshot AI）和稀宇科技（MiniMax）等中國開發商，利用2.4萬個假帳號向Claude提交超過1,600萬條提示。這些中國開發商利用這些提示生成的輸出結果，來優化自己的模型。
Anthropic公司指控，DeepSeek（圖）等中國人工智慧開發商，對其模型進行「蒸餾攻擊」。（記者Oleksii Pydsosonnii／攝影）「供應鏈攻擊」
人工智慧模型還可以加速所謂的「供應鏈攻擊」。在供應鏈攻擊中，惡意攻擊者會試圖將一段可被利用的程式植入到他們想要攻擊、由其他用戶共享的開源程式庫中。
如果這段可被利用的程式被加到目標程式庫中，惡意攻擊者便可能利用這段有漏洞的程式，繞過下游用戶的網路防禦。
如果這類供應鏈攻擊想要得逞，一段有漏洞的程式必須先通過審核，才能被納入更大的開源程式庫。基耶薩表示，人工智慧可以將這個過程自動化，直到這段可被利用的程式最終通過審核為止。
「藉助人工智慧，你只需編寫那一行程式碼，就能以十億種不同的方式進行一百萬次嘗試，因為它會逐一嘗試所有的可能性。」基耶薩說，「你完全不需要動手。你只需設定目標，它就會一直嘗試，直到無法繼續為止。」
安全專家的新挑戰
隨著人工智慧能力的不斷提升，政策制定者和網路安全專家必須通力合作，以應對新的挑戰。
麥金泰爾（Branden McIntyre）曾為思科（Cisco）和日本樂天（Rakuten）等公司開發網路基礎設施多年。
如今，他是加州人工智慧公司Trussed.ai的聯合創辦人，幫助各種機構部署相關的工具，以控制人工智慧模型與敏感資料及系統的互動方式。
在接受《大紀元時報》採訪時，麥金泰爾解釋說，用戶往往無法監控自己所使用的人工智慧模型中流入和流出的資訊。
他還提出擔憂說，許多員工可能會藉助人工智慧模型來跟上工作進度，然而未必能夠時刻意識到，他們輸入到這些不斷學習的人工智慧模型中的資訊，可能涉及敏感內容。
許多人工智慧開發者可能會嘗試在模型中設置防護措施，但麥金泰爾警告，這並不是萬能的解決方案，「大多數模型都側重於內部防護措施，而且整體上還比較零散，對吧？所以，一家公司針對某件事設置了防護措施，另一家公司則針對另一件事設置了防護措施。兩者之間重疊的地方並不多。」
麥金泰爾建議各個機構部署外部的防護產品，這些產品可部署在機構的敏感資料與其所使用的AI模型之間，以管控流入這些模型的資訊。
6月22日，「五眼聯盟」發布關於人工智慧的警告，列出了各機構可採取的切實措施，以降低風險，包括限制對敏感系統的訪問權限、加快漏洞修復速度，以及在資訊系統中實施多層防禦措施。
麥金泰爾表示，「五眼聯盟」網路安全負責人提出的建議並非新的觀點，該建議突顯了一個事實：在人工智慧時代，事態的發展速度已經大幅加快。
他說，「你不能像五年前那樣，對何時發布更新檔、什麼算漏洞、什麼不算漏洞有同樣的假設，因為人工智慧能夠以前所未有的速度，同時測試各種變化版本。」◇
2024年6月20日，聯合國安全理事會在紐約聯合國總部召開會議，討論網路威脅對國際和平與安全的影響。由美國、澳洲、加拿大、紐西蘭和英國組成的「五眼聯盟」情報共享組織近日就人工智慧驅動的網路攻擊風險日益加劇發出警告。（Yuki Iwamura/AFP via Getty Images）
