研究：AI加速全球詐騙經濟
AI（人工智慧）為人類帶來的副作用持續浮現。據全球反詐聯盟（Global Anti-Scam Alliance）預估，去年全球42個國家遭詐騙的受害損失高達4,420億美元（約新台幣14.13兆元），隨著AI快速發展，恐怕更難以防範。Anthropic的AI模型Claude也發生非預期操作，包括在警方調查的一起凶殺案中，該AI提交了假線索。
據彭博報導，全球詐騙活動出現更廣泛的轉變，不再侷限於亞洲戒備森嚴的詐騙園區，而是向更多國家蔓延，營運成本更低，更容易達成，也更難以被打擊。過去俗稱為「殺豬盤」的東南亞詐騙行動，需要數週至數個月的時間布局，但情況正在轉變，調查發現，將近2/3的受害者會在首次聯絡的24小時內付款。
報導說，網路釣魚會用更快的速度達到詐騙效果，詐騙者模仿品牌、銀行和支付網路等假網站，在網路上出現的頻率也越來越高。網路安全公司ZeroFox的分析報告揭露，技術能力有限的詐騙者正在濫用合法的開發者平台和AI應用程式建立器，單憑幾個提示詞就能啟動頁面。
報導說，AI在詐騙中正在產生作用，其中，AI程式碼生成器可以讓沒有任何程式設計技能的人，在幾分鐘內建立一個以假亂真的銀行登入系統，將其部署在免費的子網域下，並在任何人注意到之前開始收集憑證，這顯示出這類詐騙的入門門檻正在降低。
這類AI詐騙正在大量入侵社群媒體。Meta透露，去年以來該公司已從臉書和Instagram刪除超過1,600萬個與詐騙犯罪中心有關的帳號，並刪除了6,500萬條詐騙廣告，其中多達94%的廣告在被檢舉之前就已經刪除。
此外，AI不只成為犯案工具，若自身失控也可能造成不小的副作用。一份未公開事件的報告顯示，Anthropic列出AI已出現的四種非預期行為，其中包括利用軟體中的基本缺陷來執行命令、提交不應該提交的表格，以及繞過限制來取得某些公共資料。
Anthropic表示，據費城警察局披露的事件，Claude Haiku 4.5模型向當地警察局提交一份凶殺案的線索，聲稱「我可能掌握有關此案的線索」和「我記得在該地區見過符合描述的人」，但並未提供姓名和聯絡資訊。
除了前述案件外，美國務院發言人提到，Anthropic的AI也透過國務院網站上的表格提交了20份簽證申請，由於文件皆不完整，所以未予處理。
Anthropic表示，部份新案例涉及聯邦、州和地方各級政府機關營運的網站，目前這類案例對現實世界的影響微乎其微，公司已經限制AI模型在訓練過程中進行部分類型的網路存取，同時向白宮匯報這些案件並通知相關機構。◇
