全球首見 歐盟打擊AI犯罪專法8月生效

歐盟制定的《人工智慧法》已於8月正式生效，並將於2026年全面實施。近年來，與AI相關的深度偽造和語音合成技術被用於犯罪，AI詐騙案件呈現爆炸式增加，受害者遍布全球且不少人因此傾家蕩產。

上述法律是全球第一個與AI相關的大型法律，旨在解決AI的負面影響、制定全面的監管框架，規範企業在AI方面的開發、使用和應用方式。

該立法對不同的AI採用四個等級的風險管制。關鍵基礎設施、教育或職業培訓及醫療等方面的AI應用，皆被視為「高風險」。這些高風險的AI應用，需要嚴格遵守監管、安全、穩定和準確性等重要義務。

另外，該法律要求「有限風險」的AI開發商要有公開透明的義務，要讓使用者知道與他們對話的是AI，還是真人。若向民眾通報公共利益問題時，需要標註是否使用AI，該項規則也適用於「深偽技術和語音合成內容」。

雖然該法對其他2個低等級風險的AI應用要求不這麼嚴格，但這些AI也要受到當局的監管，且廠商要對AI程式自行監管和建立監控系統，若發生嚴重事件或故障，要向當局進行「報告」。

若違反該法律的公司，可處750萬~3‚500萬歐元（約新台幣2.7億~12.4億元）或全球年收入1.5%到7%（以較高金額為準）的罰款。

深偽技術騙局激增

歐盟的《人工智慧法》可以說是用來應對AI在性能大幅度提升後所衍生的詐騙、駭客、假訊息等問題。另外，現實世界中與AI相關的犯罪案件，也正在不斷增加當中。

信用卡支付巨頭Visa在7月底披露，越來越多不肖人士利用AI的能力，生成信用卡上的主卡號，並利用其運算力破解主卡號、卡片背後的安全碼（CVN）、到期日期和獲得批准回應。

他們還提醒，現在許多愛情騙局、投資騙局等等，都在使用AI進行詐騙。另外，Visa在今年3月提出一份報告提到，在2022年10月至2023年9月間，Visa阻止了共400億美元（約新台幣1兆3千億元）的詐騙行為，該數據幾乎是一年前的兩倍。

目前與AI相關的著名網路詐騙案件，莫過於英國倫敦的會計師楊海倫（Helen Young，音譯）案。海倫在7月初向媒體披露，一名假警察先是打視訊電話給她，利用AI技術向她展示逼真的警服、警察證件和功能齊全的警察局畫面，隨後指控海倫涉嫌參與一起大型金融詐騙案。

海倫向這名假警官支付了2萬9千英鎊的「保釋金」，以避免自己被引渡回中國。幾天後，假警察竟向她索要25萬英鎊「贖金」，但這次海倫將事情告訴女兒，女兒告訴她這是一場詐騙，並陪同她報案，幸運的是，她們最終要回這筆款項。◇