對蔡英文抹黑 國安人士:中共網軍用AI假影音練兵

【記者吳旻洲/臺北報導】

臺灣總統選舉前夕,國安單位偵獲網路出現大量AI生成的偽造影音,以虛擬主播唸出名為「蔡英文祕史」的電子書內容,再透過數百組假帳號上傳YouTube,由多個臉書粉專分享。國安人士表示,研判與中共國安部高度關聯,這是短時間內對一位國家元首進行大規模網軍練兵首例。

國安人士10日在一場簡報會上表示,從1月2日開始,境外開放資料庫平臺Zenodo,被置入一份達300頁的電子書「蔡英文祕史」,內容有學歷造假、同婚可怕、家族問題、生活淫亂以及防疫失敗等各種假訊息操作。

國安人士說,經由AI生成技術,用機器語音念出電子書內容,這類假主播影音模式,出現在YouTube等各大社群平臺,內容相同,而虛擬主播則不同面貌,有女主播,有聖誕老公公,還有外國人,然後每過幾分鐘,就有好幾百個帳號貼出這YouTube內容。即便下架影音或刪除帳號,在很短時間內又出現其他新帳號,繼續張貼這些抹黑蔡英文的影音內容。

國安部門發現,這是透過生成式AI技術,配上機器虛擬主播產生的語音,在網路上快速且大量散播,例如YouTube曾在同一時間有超過400支影片、近200個頻道播出相關內容。國安人士研判,從其特徵與手法比對看,幕後黑手應為中共國安部。

國安人士說,這類造假技術,大量使用了抖音母公司、中國字節跳動公司所開發的APP軟體「剪映」,模擬新聞製作方式,搭配虛擬主播產生不實內容,散布在各平臺。

國安人士說,中共針對民主國家的領袖發動認知攻擊,不是頭一遭,去年10月加拿大總理杜魯道也被鎖定,當時也是用虛擬影像生成方式,攻擊對方稱有貪汙,加拿大當時也發正式聲明揭露。不過,以攻擊規模與投入資源看,這次則更顯著。

至於為何選擇蔡英文,而不是直接攻擊民進黨總統候選人賴清德,國安人士認為,中共除利用臺灣選舉進行「練兵」,以較新的網路技術發動資訊作戰,而總統蔡英文雖不是2024大選參選者,但民眾對其好感度與支持度,有助於「加持」黨籍候選人,像是最近爆紅的「在路上」影片。因此中共在選前醜化蔡英文個人形象,貶抑施政,具打擊執政民進黨的效果,目的仍是為了介選。

國安部門還發現,這些假影音的除透過YouTube,還包括臉書、平臺X(推特)、IG等各大社群,甚至連維基百科與爆料公社都有。

而且不同於過去假訊息多於封閉性的政治族群散佈,這次還利用一些開放式的網路平臺為跳板,例如一些名為「租屋賣屋」的臉書粉專,或是PTT裡漫畫版,以及提供投稿的「鏡文學」,都被發現不斷置入這些抹黑國家元首的錯假影音,試圖突破同溫層的非政治類別。

不過,由於機器主播太過「虛擬」,以及頻繁使用「島內」、「蔡當局」等中國慣用語,內容則顯粗糙,點閱效果極低。

對此,國內部分粉專已發出聲明,呼籲大家要注意這類「三人成虎」的荒謬訊息傾向。例如粉專「奶茶同萌」提到,在1月5日收到私訊,內容表示對方想要爆料蔡英文的事情,並附上一個網址。友站「維尼之聲」也在留言區出現類似的連結,點進去也是「蔡英文祕史」。

學者王宏恩於臉書指出,看到了YT這3天內超過100支影片上傳,都是一模一樣的念同一份文件,配上機器產生的語音、自動配嘴型跟手勢、字幕跟原始文件都有部分簡體字、但把幾個主播配上不同的背景顏色、再加上搜尋關鍵字找到的隨機圖片,快速生成上百支影片同時上傳,看起來像是有無數小主播同時關心這個議題。

他認為,雖然單支點閱數都趨近於零,但目的就是要造成聲量變化,十足的偕同行為火力展示。

延伸閱讀
中共審查書籍 敏感字成空格
2024年01月07日 | 10個月前
東海大學AI計畫下鄉 寒假首站和平國小
2024年01月07日 | 10個月前
取消