可疑帳號要AI做監控軟體 遭OpenAI封鎖

美國人工智慧公司OpenAI於10月7日發布最新報告，宣布封禁多名疑似與中共政府機構有關的ChatGPT用戶，這些帳戶涉嫌要求AI協助設計開發社群媒體監聽系統、輿論監控方案，企圖開發大規模追蹤工具、協助網路釣魚等違反OpenAI國家安全政策的行為。

OpenAI發現，這些被關閉的帳戶曾提出製作具體監控工具的請求，包括：社群媒體「監聽」工具、維吾爾族相關預警模型，以及網路釣魚與技術競爭等。

有帳戶曾要求ChatGPT協助設計宣傳資料和項目計畫，以開發一種AI驅動的社群媒體監聽工具。據稱，該工具是用於政府客戶。這種工具即為「探測器」，能夠抓取X（原Twitter）、Facebook、Instagram、Reddit、TikTok和YouTube等社群媒體上的訊息，以掃描特定的極端主義言論、民族、宗教和政治內容。

另一個帳戶疑似與中共政府機構有關，曾要求ChatGPT協助撰寫一份提案，內容是關於建立一個「高風險維吾爾族相關流入預警模型」（High-Risk Uyghur-Related Inflow Warning Model）。該提案旨在分析交通訂票紀錄並與警方紀錄比對，以追蹤維吾爾族群體的動向。

OpenAI表示，這兩名用戶已被永久封禁。OpenAI首席調查員本．尼莫（Ben Nimmo）告訴CNN：「在中共內部，有力量正推動AI在大規模監控中發揮更大作用。中共早就在監控國民，而現在他們希望用AI讓系統更高效。」

除了與監控相關的請求外，OpenAI發現這些與中方相關的帳戶，還做了一些其他的惡意和技術探索行為：有數個使用中文的帳戶利用ChatGPT協助網路釣魚（phishing）和惡意軟體（malware）活動；這些帳戶還要求ChatGPT模型研究中國AI公司DeepSeek，以探索如何透過DeepSeek實現額外的自動化能力。

AI濫用已成為全球性問題

同時，OpenAI在報告中也提及來自其他國家地區的惡意活動，顯示AI濫用已成為全球性問題。OpenAI還禁用了與疑似俄語犯罪集團相關聯的帳戶，他們使用ChatGPT協助開發惡意軟體，其中包括遠端操控木馬和憑證竊取工具。

儘管惡意活動持續不斷，OpenAI表示，自從2024年2月開始公開發布威脅報告以來，該公司已報告超過40個違反其使用政策的網路帳戶。OpenAI補充道，他們的模型成功拒絕公開惡意請求，且沒有證據證明他們的模型為不法之徒增強新型攻擊能力提供了便利。

報告說，儘管本次關閉的用戶疑似與中共相關，但值得注意的是，OpenAI模型並未在中國大陸正式提供服務。該公司推測，這些用戶可能是通過VPN或其他方式才得以接觸其網站。

OpenAI也在報告中警告，「中國（中共）在推進其專製版AI方面正取得實質性進展」，這突顯必須警惕AI技術在威權統治下被濫用的重大風險。

人工智慧已經成了美中角力中最敏感的領域。中共科技公司「DeepSeek」今年初推出低成本的AI模型，引發美國擔憂。美國總統川普隨後宣布，投入5億美元強化AI基礎設施，確保美國在人工智慧領域繼續領先。◇