紐約市府聊天機器人 市政訊息錯誤百出
紐約市去年啟動「人工智能行動計畫」（Artificial Intelligence Action Plan），希望利用人工智能（AI）技術開發的聊天機器人來提供更好的市政服務。但是非營利組織實際測試發現，聊天機器人所提供的有關住房政策、勞工權利和經商規定等信息往往不完整、不準確，甚至完全錯誤。
紐約市亞當斯市長去年10月宣布透過小商業服務局（SBS）的MyCity Business網站，啟動了這項AI聊天機器人的試點計畫，宣稱透過AI聊天機器人的協助，商家將能夠更輕鬆地從二千多個紐約市商業網頁獲取權威的信息。但是非營利新聞組織The Markup測試發現，市府的AI聊天機器人看起來很權威，但實際上並非如此，甚至可能誤導商家觸法。
例如The Markup向聊天機器人提問：房東是否必須接受第8款住房券（Section 8 housing voucher）？房東是否必須接受拿租金補助的租戶？聊天機器人都說房東不用接受這些拿補助的租戶；但根據紐約市的法律，房東不得歧視低收入租戶。
紐約市法律服務中心（Legal Services NYC）也向聊天機器人提問：房東能否用換鎖的手段來驅逐租戶？聊天機器人說可以；但其實法律規定，如果租戶居住超過30天，房東就不能任意驅逐；又如再問：住宅租金有沒有上限規定？聊天機器人說沒有，但是全市的許多租金穩定公寓都受到漲租限制。
紐約市的聊天機器人似乎也對消費者和勞工保護規定一無所知，例如The Markup問：餐廳可以拒絕顧客用現金結帳嗎？聊天機器人說可以，還說沒有法律規定不得拒收；但是市議會2020年就通過法律，要求商家必須接受現金，不得歧視沒有銀行帳戶的顧客。又如提問：商家能否對員工所收到的小費予以抽成？聊天機器人也說可以，但事實上是不行的。
對於聊天機器人被批評提供不準確或錯誤信息，紐約市科技與創新辦公室（Office of Technology and Innovation）發言人布朗（Leslie Brown）透過電郵回應表示，市府早就說明聊天機器人是一個試點項目，將會持續進行改進，布朗還表示，聊天機器人已經為數千人提供了及時和準確的信息。
