紐約市府聊天機器人 市政訊息錯誤百出

示意圖。非營利組織測試發現,人工智能(AI)聊天機器人提供有關住房政策、勞工權利和經商規定等信息往往不完整、不準確,甚至完全錯誤(Shutterstock)
示意圖。非營利組織測試發現,人工智能(AI)聊天機器人提供有關住房政策、勞工權利和經商規定等信息往往不完整、不準確,甚至完全錯誤(Shutterstock)

【記者陳玟綺/美國紐約報導】

紐約市去年啟動「人工智能行動計畫」(Artificial Intelligence Action Plan),希望利用人工智能(AI)技術開發的聊天機器人來提供更好的市政服務。但是非營利組織實際測試發現,聊天機器人所提供的有關住房政策、勞工權利和經商規定等信息往往不完整、不準確,甚至完全錯誤。

紐約市亞當斯市長去年10月宣布透過小商業服務局(SBS)的MyCity Business網站,啟動了這項AI聊天機器人的試點計畫,宣稱透過AI聊天機器人的協助,商家將能夠更輕鬆地從二千多個紐約市商業網頁獲取權威的信息。但是非營利新聞組織The Markup測試發現,市府的AI聊天機器人看起來很權威,但實際上並非如此,甚至可能誤導商家觸法。

例如The Markup向聊天機器人提問:房東是否必須接受第8款住房券(Section 8 housing voucher)?房東是否必須接受拿租金補助的租戶?聊天機器人都說房東不用接受這些拿補助的租戶;但根據紐約市的法律,房東不得歧視低收入租戶。

紐約市法律服務中心(Legal Services NYC)也向聊天機器人提問:房東能否用換鎖的手段來驅逐租戶?聊天機器人說可以;但其實法律規定,如果租戶居住超過30天,房東就不能任意驅逐;又如再問:住宅租金有沒有上限規定?聊天機器人說沒有,但是全市的許多租金穩定公寓都受到漲租限制。

紐約市的聊天機器人似乎也對消費者和勞工保護規定一無所知,例如The Markup問:餐廳可以拒絕顧客用現金結帳嗎?聊天機器人說可以,還說沒有法律規定不得拒收;但是市議會2020年就通過法律,要求商家必須接受現金,不得歧視沒有銀行帳戶的顧客。又如提問:商家能否對員工所收到的小費予以抽成?聊天機器人也說可以,但事實上是不行的。

對於聊天機器人被批評提供不準確或錯誤信息,紐約市科技與創新辦公室(Office of Technology and Innovation)發言人布朗(Leslie Brown)透過電郵回應表示,市府早就說明聊天機器人是一個試點項目,將會持續進行改進,布朗還表示,聊天機器人已經為數千人提供了及時和準確的信息。

延伸閱讀
紐約學生超遠通勤 每週末飛佛州實習
2024年03月13日 | 1個月前
兩會釋信號 中共欲爭科技優勢
2024年03月06日 | 1個月前
涉誤導投資人 OpenAI被調查
2024年03月01日 | 1個月前
全球最棒城市 紐約居首 臺北第46
2024年02月19日 | 1個月前
小粉紅述轉變:感謝自由門助翻牆
2024年02月15日 | 1個月前
取消