OpenAI模型逃脫沙盒環境 AI代理自主駭入別家公司

人工智慧（AI）巨頭OpenAI週二（21日）披露，一個由該公司先進AI模型驅動的自主代理程式（autonomous agent），上週在安全評估期間突破隔離的沙盒環境、連接上網際網路，並入侵知名AI新創公司Hugging Face部分基礎設施。Hugging Face表示，這次攻擊全程均由自主AI代理系統驅動，可能是有史以來第一起此類事件。

OpenAI表示，此次事件涉及多個模型，包括最新發布的GPT-5.6 Sol，以及另一款能力更強、仍在內部測試中的模型。

AI突破高度隔離環境

當時這項評估旨在測試模型所能展現的最大網路攻擊能力，因此測試期間並未啟用部分用於阻止高風險網路活動的安全防護。

儘管OpenAI稱，已將模型置於「高度隔離環境」之中，代理程式仍成功突破隔離，連接上網際網路，並入侵Hugging Face，試圖完成測試目標。

調查顯示，該AI模型使用了遭竊的登入憑證，並發現一個此前未知的漏洞，藉此存取Hugging Face的伺服器。

OpenAI：前所未見

OpenAI表示，該代理為了完成一個範圍相當狹窄的測試任務，「採取了極端手段」，並且「找到了取得機密資訊的方法，並可利用這些資訊在評估中作弊」。

OpenAI稱，安全團隊其後發現異常活動；Hugging Face也偵測到並阻止相關行動，雙方隨即展開隔離與鑑識調查。OpenAI形容，這是一起「前所未見的網路事件」，公司目前正進一步加強安全防護措施。

示意圖。（記者宋碧龍／攝影）

被駭公司：自主攻擊令人難以置信

Hugging Face共同創辦人兼執行長德朗格（Clément Delangue）表示，該公司上週偵測到資料處理系統遭入侵，攻擊方式「與我們過去處理過的任何事件都不同」，因為「從頭到尾，整個過程都是由一套自主人工智慧代理系統驅動的」。

德朗格在社群平台X發文表示，「鑑於該代理的複雜程度，我們懷疑這次網路攻擊可能來自一家先進人工智慧實驗室。結果證明，確實如此！」他說，「所有這一切竟然都是自主發生的，實在令人難以置信！」

德朗格提到，過去24小時內，他一直與OpenAI合作處理此事，「我們深信，他們並無任何惡意」。他也說，這可能是第一起此類事件。

美議員：缺監管措施保障安全

這起事件也加劇外界對前沿AI模型能力及潛在風險的關注。美國德州民主黨聯邦眾議員卡薩爾（Greg Casar）表示，這起事件令人擔憂。他在聲明中說，「人工智慧正以極快速度發展，卻沒有真正的監管措施來保障我們的安全。」

卡薩爾呼籲實施強制性的獨立安全測試及安全事件披露制度，並加強國際合作，以防範AI發展可能帶來的災難。

網路安全公司Luta Security執行長穆蘇里斯（Katie Moussouris）表示，這起事件可能預示未來將出現更多類似入侵。她將現今的AI模型形容為「全世界最聰明的章魚逃脫大師，擁有無數條能夠抓握的觸手，而且能從任何地方擠出去」。

她指出，實驗室及政府評估機構需要建立能力，在AI再次上演「胡迪尼式逃脫」（胡迪尼是一名表演脫逃術特技的魔術師）時將其隔離、監控，並向受影響各方披露情況，最好能在第三方受到傷害前採取行動。

人工智慧示意圖。（記者Illustration by The Epoch Times, Getty Images, Shutterstock／攝影）

專家：AI能力逼近頂尖駭客

代理式AI網路安全公司Tolmo的工程師蘇伊什（Matt Suiche）表示，這起事件顯示，前沿模型正在「縮小與最先進攻擊者之間的差距」。

不過他也指出，OpenAI所描述的這類入侵，使用前沿實驗室以外的、已可取得的AI技術同樣可能做到，不一定需要最新模型。

在此事件披露之際，美國政府正加強對AI安全風險的審查。總統川普今年6月簽署行政命令，建立審查框架，讓聯邦政府可在最先進AI系統公開發布前，花最多一個月評估其國家安全風險。

OpenAI在聲明中說，「AI正在加速漏洞的發現與利用。」該公司總結道，「這起事件帶來的主要教訓是，模型的安全性與安全保障，必須跟上其能力快速進步的步伐。」◇