英國官員:駭客可藉AI達成未經授權的銀行交易

【記者張原彰/綜合報導】

人工智慧(AI)的發展帶來諸多隱憂,據路透社的報導提到,英國立法官員示警,通過許多研究可知道,當人工智慧(AI)聊天機器人被應用時,可能被誘騙去從事對人類有害的任務,駭客甚至可藉此達成未經授權的銀行交易。

路透社的報導提到,英國「國家網路安全中心」(NCSC)在部落格文章裡提到,AI工具現在被應用在聊天機器人,接著還可能取代網路搜尋,或是成為新型態的客服與電銷手段等,而這背後存在很大的風險。

報導說,當這種AI服務被安排在重要機構的服務流程時,代表有心人可以在AI中插入惡意指令,或欺騙的方式去繞過Ai內建的防護機制,達到擾亂聊天機器人的目的。

具體而言,報導說,若銀行把聊天機器人當作交易審核的工具時,駭客甚至可以編造銀行相關授權代表,進而誘騙聊天機器人完成未經授權的交易。

報導說,現階段,英國專家還沒能理解相關的問題,以及不知道該如何因應與大型語言模型(LLM)演算法有關的潛在安全問題。

另外,英國政府為了吸引人工智慧公司道英國,有意提出一項新的版權法豁免,打算放寬任何用途的文字和數據等搜集。而對此,據經濟通通訊社說,英國立法者提出呼籲,認為英國政府要對人工智慧系統實施更清晰、更嚴格的限制規定。

延伸閱讀
亞太最高 臺遭網攻近1.5萬次/秒
2023年08月16日 | 1年前
中共惡意程式 或入侵美設施
2023年07月31日 | 1年前
俄駭客藉廣告入侵外交官電腦
2023年07月13日 | 1年前
中共駭客入侵美政府電郵
2023年07月13日 | 1年前
如何判斷、預防手機被駭客入侵?
2023年06月28日 | 1年前
美中衝突 中共會網攻基礎設施
2023年06月13日 | 1年前
取消