深偽影響國安 亟待政府應對

中共近年頻繁對臺發動各種資訊戰，外界憂心「深度偽造」（Deepfake）的換臉技術，會被用於選舉、國安等議題上。專家表示，為避免以假亂真的深度合成內容，引發病毒式擴散，臺灣政府與立法機關，極須制訂相關法律與應對機制，消除虛假訊息和不實輿論對社會的侵害。

中共國家互聯網信息辦公室等單位近日發布「互聯網信息服務深度合成管理規定」，自2023年1月10日起施行，對「深度合成」（Deep Synthesis）內容用途、標記、使用範圍及濫用處罰作出具體規定，任何人或組織不得利用深度合成服務製作、複製、發布、傳播法律、行政法規禁止的訊息，或從事法律、行政法規禁止的活動。

國防部智庫「國防安全研究院」網路安全與決策推演研究所政策分析員曾敏禎表示，從近期中共加強監管「深度合成技術」應用來看，臺灣也應該加緊立法來因應。

她表示，其實中共早在2019年起，就已經先後發布相關法規，針對「生成合成類」與「深度偽造」（Deepfake）提出不同程度的監管，只是本次的規定涵蓋範圍更廣。

她說，不同以往的事後監管，本次的規定聚焦技術開發應用層面相關主體的責任義務，在監管主體上納入管理「上游的服務提供者、中游的技術支持者、下游的服務使用者」三方，並要求「具有輿論屬性或者社會動員能力的」業者與技術人員須提早報備。

曾敏禎表示，當前中國已將深度合成這項新興技術，大量應用在傳媒、影視製作、廣告行銷、教育、社交娛樂及電子商務等多個領域，如AI合成主播、虛擬網紅、影視劇本地化配音，其技術逐漸成熟並進入商業化應用階段。

此外，2022年以來，中國超過30個地方分別頒布「元宇宙」（Metaverse）相關支持性政策或徵求意見稿，多個城市競逐培育「元宇宙」產業，其中虛擬人（virtual human，身份虛構）、數位人類（digital human，身份按現實世界中人物進行設定，外觀可完全一致）。

曾敏禎說，虛擬人與數位人位就是深度合成的主要應用，也是組成當前「元宇宙」重要發展關鍵技術部分。

她表示，綜觀中共這次頒布全文25條的法律中，涉及深度合成技術「服務提供者」與「技術支持者」多達16條，顯示中共將更加嚴格的網路審查和領先於新技術的監管，並劍指身為技術開發應用上、中游源頭的「服務提供者」與「技術支持者」意味濃厚，恐影響企業與人員投入之能力和意願。

根據中國清華大學人工智能研究院、北京瑞萊智慧科技、國家工業信息安全發展研究中心等單位2022年2月聯合發布《深度合成十大趨勢報告（2022）》顯示，全球2021年主流影片網站、社交媒體平臺上發布的深度合成影片達2萬4,317條，較2017年1,680條增長超過10倍，點讚數超過3億。代表深度合成技術蓬勃發展，吸引普羅大眾關注。

曾敏禎說，近年為對抗深度合成技術惡意使用所帶來的威脅，各國開始探索深度合成治理方式，並發布相關法律法規，例如美國從聯邦和州政府層面進行專門立法，歐盟則將深度合成納入《一般資料保護規則》（GDPR）等現有法律框架規制。

她表示，近年中共對臺發動各種資訊操弄類型的輿論戰，為避免以假亂真的深度合成內容，在社交媒體上引發短期病毒式擴散，臺灣政府與立法機關極須制訂適用法律準則與應對機制，幫助民眾分辨、核查社會重大事件或政治事件，消弭虛假訊息和不實輿論對社會的侵害。