AI被濫用 學者：災難源於人心墮落

AI技術日新月異，卻也帶來前所未有的倫理危機。成功大學教授李忠憲18日於臉書發文表示，人工智慧若被政治人物或詐騙集團利用，這不只是科技被濫用，更是我們社會對於「什麼才是真實」的基本信任正在崩塌，更是「人心的墮落」，他也提及，立委黃國昌在立法院質詢中使用AI合成音檔誤導輿論，已破壞民主社會的誠信機制。

李忠憲批評，黃國昌播放AI音檔聲稱是「某檢察官對人民的不當對話」，卻未交代來源與技術細節，遭法務部質疑真偽，卻仍閃避關鍵問題。他認為，這段「模擬卻無誠信」的音檔，揭開了政治人物如何利用AI操弄輿論，顛覆公共討論的信任機制。

詐團用AI虛假內容誤導民眾

李忠憲進一步指出，類似的AI技術早被詐團使用，一名台北婦人誤信「假警察」與「假地檢署」的AI語音與視訊，甚至見到模擬的官員談話與假造文件，令她誤以為身陷刑事案件，在高度恐懼下寄出提款卡與密碼，損失高達8,891萬元。

「這不是科幻小說，而是活生生發生在你我周遭的現實。」李忠憲說，從政客操作輿論到詐團精密詐騙，當AI技術讓虛假內容能夠輕易複製他人聲音、臉孔、言語與身分，我們不只是面臨資訊真偽的危機，而是身陷倫理價值被系統性掏空的黑洞。

AI詐騙仍無預警及通報機制

李忠憲說，立法機關至今尚未針對AI語音與影像合成做出明確規範，教育體系也未對青少年進行AI識假教育，政府機關尚未建立有效的AI詐騙即時預警與通報機制，整體社會仍以為這些「科技犯罪」只是個案，殊不知：「這是我們對誠信與尊重的共識正在瓦解的徵兆」。

「AI沒有靈魂，但人有。」李忠憲說，「當人類選擇將科技作為操控他人的工具，那不只是欺騙受害者，更是背叛了自己作為道德主體的本質。」他直言現在是正視的時候：「人工智慧時代的第一個大災難，不是來自機器的反叛，而是來自人心的墮落。」◇