談生成式AI 許宗力:應受人類控制

法務部長蔡清祥。(記者常懷仁/攝影)
法務部長蔡清祥。(記者常懷仁/攝影)

【記者常懷仁/臺北報導】

針對生成式人工智慧(AI)的影響,司法院長許宗力11日表示,不論AI如何發展,都應該為人類福祉服務,受人類控制;法務部長蔡清祥則說,AI造成許多問題,很多假語音、假圖像都足以亂真,以前說眼見為憑,現在都不足以為憑了。

司法院11日舉行第79屆司法節學術研討會,內容聚焦在AI帶來的挑戰。許宗力致詞時說,無論未來AI科技如何發展、如何變得更聰明,若將AI應用在審判實務,只要審判是國家公權力的行使,憲政主義的精神就不能被挑戰、被破壞。

所以,許宗力強調,AI再如何發展,都應該為人類的福祉服務,受人類所控制,所以AI若應用在審判實務,司法的可課責性對象依然是人類,而不是AI。而且AI在審判實務應用的強度越強,對人民訴訟權與其他基本權利的影響也越大,應考慮是否有保留的適用,也就是要有法律的依據或授權。單單司法權內部的指引,可能無法正當化AI的使用。

許宗力認為,AI對審判結果的產出影響越大,其演算法的黑盒子可能就必須打開,當事人才能檢驗審判結果的正確性與合法性。且司法若應用生成式AI,應讓人們檢視其餵食訓練的資訊,是否符合《憲法》的自由民主憲政價值。

許宗力說,審判影響人民的權利,生成式AI日益進化,可能需要研議哪些是屬於「人類法官保留」領域,由人類決定,而非應用AI,以及是否應該承認人民擁有「不受AI審判的基本權」,或「受人類審判的基本權」。

另外,他也說,國家公權力的行使越是應用AI,就越有義務注意資安問題,確保個人隱私與公務機密能夠得到保障。

許宗力強調,AI如何運用在審判實務,在在影響人民權利,以及人民對司法的信任,因此司法院不會單純看AI科技可以提升司法效能、減輕法官工作負擔,就輕率的使用,在應用上還是有界限的。

AI使眼見不足以為憑

蔡清祥則說,生成式AI可以提供很多幫助,但也造成許多問題,包括眼見、耳聞都不足以為憑,很多假語音、假圖像都足以亂真,甚至耳聞也不知道是真是假,也因此讓人產生信心危機。

此外,蔡清祥也提到,生成式AI產出的內容到底是真是假,裡面有沒有種族、文化、性別歧視,這不容易發覺;還有對於個資、隱私的保護也有所欠缺,這些有賴於法律的探討與解決。尤其是在案件的偵辦中,這些證據是否可採,鑑定後可不可以採用,這個要靠人們的智慧。

延伸閱讀
蘇建和釋憲案不受理 民團提四點訴求
2024年01月04日 | 11個月前
境外勢力介選 法務部:查獲54件
2023年12月14日 | 1年前
取消