以假亂真 中共AI虛擬主播大外宣

一份研究報告指出，中共首次在宣傳影片中使用「深偽技術」（deepfake），影片中的「新聞主播」看起來像個真人，其實卻是人工智慧（AI）的產物。

總部位於美國的研究公司Graphika（格拉菲卡）7日報告稱，虛構新聞媒體「狼新聞」（Wolf News）放在社群媒體的影片，似乎是為了替中國共產黨宣傳，影片中的假主播正是由人工智慧軟體生成。

Graphika情報副總裁斯塔布斯（Jack Stubbs）告訴法新社：「這是我們第一次看到與國家結盟的行動使用AI虛構人物的影片，來製作騙人的政治內容。」

在Graphika分析的一段影片中，自稱亞力克斯（Alex）的男主播批評美國對國內槍枝暴力泛濫無所作為，另一段影片則看到女主播強調中美「大國合作」的重要性。

Graphika報告稱，幾乎可以肯定的說，這兩位「狼新聞」的主播是使用倫敦人工智慧初創公司Synthesia提供的技術創建的。Synthesia網站沒有立即回應法新社的置評請求。

根據Synthesia官網宣傳，其軟體能利用深偽技術「根據真人影片」來創造虛擬人物。

Graphika表示，該機構在追蹤被稱為「垃圾偽裝」（spamouflage）的親北京假消息活動時，在推特（Twitter）、臉書（Facebook）和YouTube等平臺上，發現了這些深度造假影片。

斯塔布斯說：「『垃圾偽裝』是一個親中國（中共）的影響力行動，主要傳播低品質的政治垃圾影片。」、「儘管使用了一些複雜的技術，但這些最新的影片大同小異。」

北京尚未對Graphika的報告發表評論，數週前其才採行了廣泛規定來規範「深偽技術」。北京曾經警告，深偽技術「對國家安全和社會穩定構成危險」。

人工智慧軟體生成虛擬人 真假難辨

深偽技術生成的虛擬人物真假難辨。Synthesia的聯合創始人兼執行長里帕爾貝利（Victor Riparbelli）在觀看了「狼新聞」的影片後對《紐約時報》表示，「非常難以確定這是否屬於假消息」。

里帕爾貝利說，識別假消息只會越來越困難。到最後，深偽技術的複雜程度可達到「無需其他東西就能在筆記型電腦上製作一部好萊塢電影」的程度。他呼籲政策制定者，要針對「如何使用人工智慧工具」頒布更明確的法規。

近十年來深偽技術穩步發展，已經具備了製作會說話的數位人偶的能力。《紐約時報》說，這種人工智慧軟體有時會被用來歪曲公眾人物，也可以憑空造出一個人，超越好萊塢使用的傳統剪輯軟體和昂貴的特效工具，極大的模糊了事實與虛構之間的界限。

Graphika表示，11月22日至11月30日期間，包含這些所謂「狼新聞」主播的兩段影片被五個帳號發布了至少五次。這些文章隨後被至少另外兩個帳號轉發，這些帳號似乎同屬於一批親北京帳號。

在中國，人工智慧企業對深偽工具的研發已超過五年。在2017年一場會議的宣傳中，陸企「科大訊飛」製作了時任美國總統川普用普通話演講的深偽影片。此後，科大訊飛被美國列入了以國家安全為由限制銷售美國技術的黑名單。

斯塔布斯表示，假消息散布者會繼續嘗試，以人工智慧軟體製作出越來越逼真的媒體內容，難以被辨別與查核。「我們今天看到的情況就是未來的另一個預兆。」他說。◇