AI 負面效應 顧問提治理三面向
ChatGPT引領科技發展走向奇異點，為人類社會帶來便利性的同時，也造成個資或企業機密外洩、詐騙層出不窮。針對發展人工智慧的應用與服務，KPMG安侯建業顧問部執行副總林大馗16日建議治理三要點，包含建構負責任且可解釋的AI、持續調整參數與優化空間，以及資訊安全的嚴防。
KPMG安侯建業16日舉辦2023第二季讀書會，現場問卷調查高達7成參與人員，焦慮人工智慧（AI）發展將取代現有工作。林大馗認為，AI發展不會是曇花一現，而是作為商業社會基礎建設，以後服務產品將疊加於AI基礎上。
不過，林大馗說，曾親自測試「2022年世足賽冠軍得主」問題，ChatGPT卻給出巴西這個錯誤答案，但冠軍得主應是阿根廷，可能AI受限於訓練資料年份，顯見人類不能只是依賴AI生成的解答，仍需最終的決策與判斷。
根據世界經濟論壇（WEF）預測，2026年網路世界可能將有9成以上內容由AI生成，針對AI發展的應用與服務，林大馗也提出治理三重點，首先，AI要有持續調整參數及優化空間，除了演算法、技術框架等細節，還要考慮誤判或漏判情況，因此須有彈性空間。
第二，建立負責任且可解釋的AI，亞馬遜（Amazon）透過AI決定雇用員工高達90%以上為男性偏見，或民眾開啟感測器進行路況偵測的自動駕駛，筆直撞上障礙物等，許多分析結果難以解釋或對其究責，建議要透明演算法、學習模式及資料集，讓使用者明確了解面臨的風險為何。
第三，企業資安嚴防，GPT服務如雨後春筍冒出，也成駭客瞄準攻擊的對象，林大馗表示，今年稍早駭客就利用提示注入（Prompt Injection）攻擊數家線上GPT服務，進而取得敏感資料如API金鑰等，資安在AI時代更重要。
此外，林大馗也提及AI發展諸多不利影響，例如中國Deep fake深偽技術被大量使用，更容易取得民眾信任來詐取金融資訊，另透過ChatGPT也可以讓沒有撰寫程式經驗的人，快速寫出國家級複雜程度的惡意程式，因此立法有必要緊跟歐盟、美國的監管腳步。
