談生成式AI 許宗力：應受人類控制
針對生成式人工智慧（AI）的影響，司法院長許宗力11日表示，不論AI如何發展，都應該為人類福祉服務，受人類控制；法務部長蔡清祥則說，AI造成許多問題，很多假語音、假圖像都足以亂真，以前說眼見為憑，現在都不足以為憑了。
司法院11日舉行第79屆司法節學術研討會，內容聚焦在AI帶來的挑戰。許宗力致詞時說，無論未來AI科技如何發展、如何變得更聰明，若將AI應用在審判實務，只要審判是國家公權力的行使，憲政主義的精神就不能被挑戰、被破壞。
所以，許宗力強調，AI再如何發展，都應該為人類的福祉服務，受人類所控制，所以AI若應用在審判實務，司法的可課責性對象依然是人類，而不是AI。而且AI在審判實務應用的強度越強，對人民訴訟權與其他基本權利的影響也越大，應考慮是否有保留的適用，也就是要有法律的依據或授權。單單司法權內部的指引，可能無法正當化AI的使用。
許宗力認為，AI對審判結果的產出影響越大，其演算法的黑盒子可能就必須打開，當事人才能檢驗審判結果的正確性與合法性。且司法若應用生成式AI，應讓人們檢視其餵食訓練的資訊，是否符合《憲法》的自由民主憲政價值。
許宗力說，審判影響人民的權利，生成式AI日益進化，可能需要研議哪些是屬於「人類法官保留」領域，由人類決定，而非應用AI，以及是否應該承認人民擁有「不受AI審判的基本權」，或「受人類審判的基本權」。
另外，他也說，國家公權力的行使越是應用AI，就越有義務注意資安問題，確保個人隱私與公務機密能夠得到保障。
許宗力強調，AI如何運用在審判實務，在在影響人民權利，以及人民對司法的信任，因此司法院不會單純看AI科技可以提升司法效能、減輕法官工作負擔，就輕率的使用，在應用上還是有界限的。
AI使眼見不足以為憑
蔡清祥則說，生成式AI可以提供很多幫助，但也造成許多問題，包括眼見、耳聞都不足以為憑，很多假語音、假圖像都足以亂真，甚至耳聞也不知道是真是假，也因此讓人產生信心危機。
此外，蔡清祥也提到，生成式AI產出的內容到底是真是假，裡面有沒有種族、文化、性別歧視，這不容易發覺；還有對於個資、隱私的保護也有所欠缺，這些有賴於法律的探討與解決。尤其是在案件的偵辦中，這些證據是否可採，鑑定後可不可以採用，這個要靠人們的智慧。
