英國官員：駭客可藉AI達成未經授權的銀行交易

人工智慧(AI)的發展帶來諸多隱憂，據路透社的報導提到，英國立法官員示警，通過許多研究可知道，當人工智慧（AI）聊天機器人被應用時，可能被誘騙去從事對人類有害的任務，駭客甚至可藉此達成未經授權的銀行交易。

路透社的報導提到，英國「國家網路安全中心」（NCSC）在部落格文章裡提到，AI工具現在被應用在聊天機器人，接著還可能取代網路搜尋，或是成為新型態的客服與電銷手段等，而這背後存在很大的風險。

報導說，當這種AI服務被安排在重要機構的服務流程時，代表有心人可以在AI中插入惡意指令，或欺騙的方式去繞過Ai內建的防護機制，達到擾亂聊天機器人的目的。

具體而言，報導說，若銀行把聊天機器人當作交易審核的工具時，駭客甚至可以編造銀行相關授權代表，進而誘騙聊天機器人完成未經授權的交易。

報導說，現階段，英國專家還沒能理解相關的問題，以及不知道該如何因應與大型語言模型（LLM）演算法有關的潛在安全問題。

另外，英國政府為了吸引人工智慧公司道英國，有意提出一項新的版權法豁免，打算放寬任何用途的文字和數據等搜集。而對此，據經濟通通訊社說，英國立法者提出呼籲，認為英國政府要對人工智慧系統實施更清晰、更嚴格的限制規定。