OpenAI報告揭中共 濫用ChatGPT操作輿論

OpenAI發布報告,點名中共及相關團體正在濫用ChatGPT等AI工具。示意圖。(SEBASTIEN BOZON / AFP)
OpenAI發布報告,點名中共及相關團體正在濫用ChatGPT等AI工具。示意圖。(SEBASTIEN BOZON / AFP)

【記者李言、陳霆/綜合報導】

美國人工智慧(AI)公司OpenAI週四(5日)發布報告指出,越來越多中共相關團體,正在利用該公司開發的生成式AI聊天機器人ChatGPT從事祕密操作,包括測試或開發惡意軟體、為網站與社群媒體製造假訊息等,這些行動針對性強,且手法與範圍正在擴張。

OpenAI表示,ChatGPT自2022年底問世以來,外界日益關切生成式AI的濫用風險,因為它能生成出類似人類創作的文字、圖像和聲音,以及為網路操控與假訊息傳播提供便利工具。

OpenAI首席調查員尼莫(Ben Nimmo)警告,「我們看到,中國(共)正在使用越來越多樣的手段,進行更多類型的隱蔽行動。」

OpenAI持續監測並定期披露平台上偵測到的惡意使用行為,最新報告指出,過去3個月內,OpenAI共偵測到10起AI濫用案例,其中4起疑似與中共背景有關。

生成政治內容、不實指控

OpenAI點名一項叫「嘲評行動」(Sneer Review,冷嘲熱諷評論)的操控項目,背後疑似是中共支持的團隊,用AI寫短評和「互動留言」,在TikTok、X、Reddit、Facebook等社群媒體上發布,內容包括攻擊美國總統川普政府取消美國國際開發總署(USAID)等政策,使用語言涵蓋英文、中文和烏爾都語。

其中一個案例顯示,有帳號專門針對與中國相關的政治與地緣政治議題生成內容,包括批評一款以台灣為主題並對抗共產政權的電玩、捏造對巴基斯坦維權人士的指控等。OpenAI已封鎖這些帳號。部分內容也涉及批評川普關稅政策,例如發布到X上的貼文稱,「關稅讓進口商品貴得離譜,政府卻還大手筆援助國外。我們老百姓到底該怎麼活?」

製造對立輿論 挑動美國分裂

另一項案例顯示,與中共有關聯的惡意帳號利用AI技術支援其網路行動,包括進行開源情報蒐集、修改腳本、除錯系統配置,並開發暴力破解密碼工具、社群媒體自動發文程式。

OpenAI還發現,中共相關勢力透過AI製造兩極化輿論、生成「真人頭像」,在美國內部敏感議題中同時扮演對立兩方,假裝是美國網友在吵架,目的就是挑動內部矛盾,深化社會分歧。

另一起行動中,中共相關人員還冒充記者或地緣政治分析師,用ChatGPT撰寫社媒帳號簡介、翻譯文件等。

尼莫表示,這些行為使用的平台多、手法複雜,但多數還在早期階段就被發現。

美擬派員駐中 強化出口執法

美國商務部部長盧特尼克(Howard Lutnick)週四在眾議院撥款小組委員會聽證會上表示,為防止中共竊取關鍵技術,美國應加強出口管制執法。

他說,「在爭奪AI主導地位的競賽中,他們(中共)目前落後於我們,但他們正與中央政府攜手合作,要追趕並超越我們,希望取得對我們的知識優勢。」

盧特尼克呼籲,國會應增加對商務部工業暨安全局(BIS)的撥款,以擴編實地稽查人員,造訪倉儲與出口商,確保能落實針對中國等對手國家的出口限制。他透露,除了美國本土人力外,政府還希望在中國境內派駐超過兩名BIS人員,進一步強化執法。

防先進技術外流 與盟國協商新規

盧特尼克強調,美方將持續限制先進晶片與AI技術流向對手國家,並尋求與盟國建立替代性的出口協議。由現政府與盟國洽簽個別協議,條件是由美國核准的數據中心與雲端服務營運商,來控制尖端晶片的應用。

彭博社報導指出,川普政府已放棄拜登政府時期提出的「AI擴散規則」(AI diffusion rule),該措施原擬建立分級制度,限制AI晶片賣給中俄等國。

同時,為推動半導體製造回流美國,川普政府正重新談判拜登時期《晶片法案》下的多項補助協議。

彭博社指出,盧特尼克點名亞利桑那州正在興建的新晶片廠,並強調這些項目原定興建期長達3年,過於緩慢。他表示,政府計畫協助企業加快建造與行政流程,將期程縮短至18個月,加速本土產能擴增,並吸引更多資金投入。◇

延伸閱讀
「天安門母親」悼念受嚴密監控
2025年06月05日 | 5天前
李在明就職 專家憂韓國再度親共
2025年06月04日 | 6天前
取消