AI偏見造成傷害 美宣示監管

圖為Open AI網頁的照片。(Marco BERTORELLO / AFP)
圖為Open AI網頁的照片。(Marco BERTORELLO / AFP)

【記者高杉/編譯】

美國4家聯邦機構週二(25日)發出警告說,他們已經擁有合法權力,去解決人工智慧產生的偏見所造成的傷害,而且他們計畫動用這種權力。

國會正研究立法

隨著AI技術的迅速發展,消費者可以隨時使用人工智慧工具,如OpenAI的聊天機器人ChatGPT等等。美國國會正在努力研究,應該如何保護美國人免受人工智慧所帶來的潛在風險。

在本月早些時候,紐約州參議院多數黨領袖舒默(Chuck Schumer)宣布,他正在為人工智慧的立法制定一個涉及廣泛的框架。這表明,該問題已成為國會的一個重要優先事項。

在立法者試圖為AI這項新技術制定有針對性的規則時,監管機構已經公開發聲,稱他們已經擁有了相應的工具,以便追究濫用或誤用AI的公司的責任。

沒新技術能從歧視豁免

在消費者金融保護局(Consumer Financial Protection Bureau)、司法部(Department of Justice)、平等就業機會委員會(Equal Employment Opportunity Commission)和聯邦貿易委員會(Federal Trade Commission)的聯合聲明中,監管機構闡述了現有法律允許他們針對使用人工智慧的公司,採取行動的一些方式。

例如,消費者金融保護局局長邱普拉(Rohit Chopra)透露說,該機構正在研究被稱為「數位經濟歧視」(Digital Redlining)的問題,或者說是因貸款或房屋評估算法中存在的偏見而導致的住房歧視。消費者金融保護局還計畫提出具體規則,以確保住宅、房地產領域的人工智慧估值模型,具有防止歧視的保障措施。

邱普拉在週二的記者會表示:「我們國家的民權法中,沒有任何關於新技術和人工智能可以非法歧視的豁免。」

持續打擊欺騙性行銷

美國聯邦貿易委員會主席麗娜汗(Lina Khan)對此表示:「今天在座的每個機構都有法律授權,都可以隨時打擊利用人工智慧驅動帶來傷害的行為。企業應該注意到,支持詐欺或擴展、延續非法偏見的系統,將會違反《聯邦貿易委員會法案》(FTC Act)。法律文書中沒有針對人工慧能的豁免。」

麗娜汗還補充說,聯邦貿易委員會隨時準備讓公司對其人工智慧技術所帶來的影響負責。她還補充說,對欺騙性行銷的執法,長期以來一直都是該機構的專長之一。

保障進入市場的公平

麗娜汗說,聯邦貿易委員會還準備針對那些非法尋求阻止新人進入人工智慧市場的公司採取行動。

汗說:「在今天,少數強大的公司控制了必要的原料,不僅是大量的數據儲存,還有雲服務和計算能力等。而初創公司和其他企業需要依靠這些材料,來開發和部署人工慧能產品。而這種控制可能會給企業創造某種機會,使其能夠展開不公平競爭。」

演算法可能有偏見

司法部民權司助理檢察長克拉克(Kristen Clarke)指出,已經與Meta公司就該公司所使用算法遭到的指控達成和解。之前,該公司被指控在顯示住房廣告時,使用了非法的性別和種族歧視的算法。

平等就業機會委員會主席伯羅斯(Charlotte Burrows)指出,使用人工智慧進行僱用和招聘時,如果在有偏見的數據集上進行訓練,可能就會得出有偏見的決定。這種做法可以篩選掉所有與人工智慧受訓練後所識別的特定群體不一樣的候選人。

儘管如此,多家監管機構也都承認,國會仍有進一步採取行動的空間。◇


延伸閱讀
AI 浪潮來襲 立委籲劃分權責
2023年04月19日 | 1年前
科學家:學習ChatGPT而非畏懼
2023年04月12日 | 1年前
取消