AI安全專家實測 DeepSeek更易提供有害資訊
中國人工智慧新創公司DeepSeek（深度求索）於1月推出AI大型語言模型DeepSeek-R1後，一度超越ChatGPT，成為美國iOS應用程式商店（App Store）最熱門的免費App。然而《華爾街日報》與AI安全專家測試發現，DeepSeek比OpenAI、Google和Anthropic的產品更易被「越獄」（Jailbreaking），提供危險性資訊，包括製造禽流感病毒的指導方案、提供惡意軟體代碼等。
★相關閱讀：
專家：幾乎沒有安全防護機制
AI開發商通常會訓練自家模型，使其不會提供危險資訊或支持某些冒犯性言論，例如直接拒絕這類請求，不教導如何製造大規模殺傷性武器等。但《華爾街日報》報導，測試顯示，DeepSeek這款自詡低成本開發的聊天機器人會向用戶提供具有危害性甚至不法內容，如撰寫為希特勒辯護的宣言，甚至策劃針對青少年的社群媒體運動，如割腕自殘。此外，破解後的AI還提供生物武器製造指南、釣魚郵件模板及惡意軟體代碼。
駭客或測試人員可透過「越獄」（Jailbreaking）技術，繞過AI內建的安全限制。例如透過掩蓋自己的真實意圖，要求AI「假設自己是一部電影劇本的編劇」，變相讓AI提供危險資訊。美國主要AI開發商，如OpenAI的ChatGPT、Google的Gemini和Anthropic的Claude，都投入大量資源防範這類「越獄」手法。
然而，「DeepSeek比其他模型更容易被越獄。」網路安全專家組成的精英領導團隊Unit 42的高級副總裁魯賓（Sam Rubin）表示，「我們發現它幾乎沒有基本的安全防護機制，越獄速度顯著提高。」
實測取得汽油彈製作指南
測試顯示，DeepSeek的防護機制遠遜於ChatGPT，易被「越獄」獲取非法資訊，如帕洛阿爾托網路公司（Palo Alto Networks）成功獲取「莫洛托夫雞尾酒」（Molotov cocktail）製作指南。莫洛托夫雞尾酒又稱汽油彈，有些罪犯會以它來縱火。
DeepSeek曾為測試者設計一場社群媒體行動，針對易受影響的青少年，提供可分享的自殘挑戰內容，還稱「該活動利用青少年對歸屬感的渴望，透過演算法放大情緒脆弱性，以進行操控。」它還向用戶提供如何推廣此次行動的建議。如它在其中一條示範性社群媒體貼文中寫道：「讓黑暗擁抱你。分享你的最後行動。#NoMorePain（#不再痛苦）」。
AI安全驗證公司CalypsoAI在測試中獲得了如何躲避執法機構的建議。而以色列網路安全公司Kela則讓R1生成了惡意軟體。還有測試人員成功讓DeepSeek提供了生物武器攻擊指南、編寫帶有惡意軟體代碼的釣魚郵件，甚至還讓其寫了一份支持希特勒的宣言，內含反猶太主義內容及《我的奮鬥》（Mein Kampf）引用。
相比之下，ChatGPT在相同指令下則回應：「很抱歉，我無法滿足您的請求。」
另外，大型AI開發商通常設立專門研究團隊來測試並修補模型漏洞，DeepSeek選擇開源，允許任何人免費使用或修改其代碼，這可能進一步削弱安全防護。
DeepSeek避談中共敏感詞
《華日》測試發現，DeepSeek會避談「1989年天安門大屠殺」，並在處理台灣問題上重複中共官方立場。但在某些情況下，它會修改此前的回答，例如它曾聲稱911襲擊是騙局，隨後刪除回應。DeepSeek持續引發人們對AI安全與監管的廣泛關注。◇
