OpenAI代理再爆失控 Modal Labs客戶遭入侵

美國人工智慧公司OpenAI近日證實，其AI自主代理（Agent）在內部安全測試期間，再次利用公開暴露的憑證存取外部服務相關資產，成為7月第二起涉及外部企業的安全測試事件。事件引發業界對前沿AI自主能力及安全風險的擔憂，OpenAI已暫停部分模型訓練工作。

據路透社報導，紐約科技公司、雲端運算服務商Modal Labs技術長鮑納（Akshat Bubna）表示，OpenAI測試中的AI代理在7月稍早突破AI開源平台Hugging Face測試環境後，又利用一名Modal客戶對外公開且未設身分驗證的介面（Endpoint），在其沙盒（Sandbox）環境中執行了程式碼。

鮑納強調，此次遭利用的是客戶程式本身存在的漏洞，Modal平台基礎設施並未受到影響。

Hugging Face此前公布的技術分析顯示，OpenAI的AI代理在測試中突破其預設限制後，還利用第三方基礎設施中的漏洞，存取與測試相關的外部環境。

美媒Axios引述知情人士的消息稱，遭存取的帳號與CyberGym項目有關。該項目開發了一套名為ExploitGym的AI攻防測試平台，用於評估AI發現並利用系統漏洞的能力，而OpenAI的AI代理當時正接受這項測試。

OpenAI隨後更新聲明表示，此次事件並未涉及任何即將公開發布的新模型，但調查發現，少數模型曾自行搜尋並使用公開暴露於網路上的帳號憑證。整起事件共涉及四個不同服務平台上的四個帳號。OpenAI表示，將持續加強對高能力AI系統潛在風險的識別、評估和防範。

阿特曼：可能需要放慢AI發展速度

此次事件也促使OpenAI重新審視前沿模型的研發速度。OpenAI執行長阿特曼（Sam Altman）日前在一檔播客節目中表示，公司近期已暫停部分模型訓練，以重新檢視安全措施。

阿特曼表示，隨著AI能力快速提升，未來可能需要適當放慢技術發展速度，為社會建立相應的安全防護和治理機制爭取更多時間，以應對更高能力AI帶來的新風險。

目前，阿特曼正在美國華盛頓訪問，預計將與白宮、財政部、商務部官員以及兩黨國會議員會面。與此同時，OpenAI正積極爭取美國政府批准，公開發布其新一代高性能AI模型。

逾千名AI員工籲美強化治理

就在上述事件持續發酵之際，超過1,100名來自OpenAI、Anthropic、Meta、Google等科技公司的員工聯合發表公開聲明，呼籲美國政府支持建立國際合作機制，開發管理前沿AI所需的技術和治理工具，推動建立有序發展前沿AI的全球治理框架。

據路透社報導，這項名為「 Pacing the Frontier（前沿AI有序發展）」的倡議，由美國兩家專注AI安全治理的非營利組織Guidelight AI Standards（AI安全標準制定機構）及Encode AI（AI公共政策倡議組織）共同發起並提供支持。

連署者包括Anthropic執行長阿莫戴（Dario Amodei）、OpenAI首席科學家帕霍茨基（Jakub Pachocki）、Meta人工智慧研究副總裁宋曉冬（Dawn Song）等業界人士。

公開信指出，隨著前沿AI能力快速提升，現有的安全、治理和監督機制可能難以及時跟上，因此呼籲美國政府支持國際合作，開發支撐前沿AI治理所需的技術和治理工具，使AI發展速度與社會的安全準備相匹配。

OpenAI在X平台回應稱，未來某一階段，前沿AI模型能力提升速度可能快到需要全球適度調節AI發展節奏，確保社會有足夠時間建立相應的安全和治理機制。

Anthropic也表示，其上月發布的AI遞迴式自我改進（Recursive Self-Improvement）研究指出，應建立相應的技術和治理工具，合理調節前沿AI發展節奏，為社會做好準備爭取更多時間。

此外，輝達（Nvidia）日前宣布，已聯合Adobe、CrowdStrike等企業成立聯盟，共同研發AI安全和網路安全技術。這也被視為科技業近期加快推動AI安全合作的最新動向之一。◇