AI 負面效應 顧問提治理三面向
ChatGPT引領科技發展走向奇異點,為人類社會帶來便利性的同時,也造成個資或企業機密外洩、詐騙層出不窮。針對發展人工智慧的應用與服務,KPMG安侯建業顧問部執行副總林大馗16日建議治理三要點,包含建構負責任且可解釋的AI、持續調整參數與優化空間,以及資訊安全的嚴防。
KPMG安侯建業16日舉辦2023第二季讀書會,現場問卷調查高達7成參與人員,焦慮人工智慧(AI)發展將取代現有工作。林大馗認為,AI發展不會是曇花一現,而是作為商業社會基礎建設,以後服務產品將疊加於AI基礎上。
不過,林大馗說,曾親自測試「2022年世足賽冠軍得主」問題,ChatGPT卻給出巴西這個錯誤答案,但冠軍得主應是阿根廷,可能AI受限於訓練資料年份,顯見人類不能只是依賴AI生成的解答,仍需最終的決策與判斷。
根據世界經濟論壇(WEF)預測,2026年網路世界可能將有9成以上內容由AI生成,針對AI發展的應用與服務,林大馗也提出治理三重點,首先,AI要有持續調整參數及優化空間,除了演算法、技術框架等細節,還要考慮誤判或漏判情況,因此須有彈性空間。
第二,建立負責任且可解釋的AI,亞馬遜(Amazon)透過AI決定雇用員工高達90%以上為男性偏見,或民眾開啟感測器進行路況偵測的自動駕駛,筆直撞上障礙物等,許多分析結果難以解釋或對其究責,建議要透明演算法、學習模式及資料集,讓使用者明確了解面臨的風險為何。
第三,企業資安嚴防,GPT服務如雨後春筍冒出,也成駭客瞄準攻擊的對象,林大馗表示,今年稍早駭客就利用提示注入(Prompt Injection)攻擊數家線上GPT服務,進而取得敏感資料如API金鑰等,資安在AI時代更重要。
此外,林大馗也提及AI發展諸多不利影響,例如中國Deep fake深偽技術被大量使用,更容易取得民眾信任來詐取金融資訊,另透過ChatGPT也可以讓沒有撰寫程式經驗的人,快速寫出國家級複雜程度的惡意程式,因此立法有必要緊跟歐盟、美國的監管腳步。