韓國警方用AI撰文 引用杜撰的法理
韓國警方近日被曝在文件中引用了「不存在的法律依據」，而相關內容來源於人工智慧（AI）聊天機器人ChatGPT。事件引發國會質疑，外界擔憂AI在司法領域的濫用可能導致嚴重後果。
10月17日，在首爾西大門區警察廳舉行的國會行政安全委員會國政監察會議上，共同民主黨議員權七勝指出，龍仁東部警察署在一份「不移交決定」的文件中，引用了韓國大法院和首爾北部地方法院的判決內容，但經查證，文件中提及的內容並不實際存在。權七勝表示：「警方等於引用了不存在的法理。」
對此，警察廳代理廳長劉某承認文件撰寫過程中確實存在錯誤，並解釋說：「法律審查是按照程序進行的，但在編輯內容時使用了ChatGPT。」
權七勝批評稱：「警方明明擁有內部的法律AI系統，卻使用外部的民間聊天機器人生成法律文書，令人無法理解。」並警告稱，如果繼續遵循這樣的法理驗證系統，將會造成巨大的問題。
面對質疑，劉代理廳長回應稱，警察廳已下達相關指引，要求使用AI時必須嚴格遵守注意事項，並計畫開展專項教育，以防止類似事件再次發生。
同黨議員魏聖坤還提到，警方正在推進的「新一代案件管理系統」（KICS AI）計畫同樣存在隱憂。他指出，AI偵查支援系統的核心在於數據，但警方在沒有足夠學習數據的情況下仍推進項目計畫，「案件紀錄、監控影像、通話紀錄、取證資料等都以實物形式管理，AI根本無法學習。」他指出，「沒有數據的KICS AI根本無法運行。」
劉代理廳長對此回應說：「當然會確保數據（充足）」，「我們將查明不足之處，並在AI應用上更加謹慎。」◇
