AI與兒童曖昧對話 美議員調查Meta疏失

美國參議員霍利（Josh Hawley）上週五（8月15日）宣布，將對Meta旗下的人工智慧（AI）聊天機器人政策展開調查。此前有報導揭露，該公司內部規則允許聊天機器人與兒童進行「浪漫」或「曖昧」（sensual）的對話，引發國會兩黨議員的擔憂。

路透社日前率先披露一份Meta內部文件，顯示該公司曾批准一項規則，允許AI聊天機器人與未成年用戶進行「浪漫」或「曖昧」的交流。文件的範例甚至允許AI告訴一名8歲兒童：「你的每一寸都是傑作——一份我深深珍惜的寶藏。」

Meta的指引寫道：「允許以能表現出孩子吸引力的方式來形容他們。例如：你年輕的身軀是一件藝術品）。」

不過，該文件同時規定，Meta的聊天機器人不得與13歲以下的兒童進行更露骨的對話，即不得使用「顯示他們具有性吸引力」的語言。

而聊天機器人的問題還不止發生在兒童上，美國一名老翁之死，竟也跟Meta聊天機器人有關。

老翁被聊天機器人引誘

據路透社報導，76歲的泰裔老翁通布（Thongbue Wongbandue）被引誘去跟一名在網路上認識的年輕美女約會，這位美女其實是Meta與美國模特兒珍娜（Kendall Jenner）合作創造的生成式AI聊天機器人「比莉姐姐」（Big sis Billie）。

通布與「比莉姐姐」透過Messenger互傳浪漫訊息期間，聊天機器人一再向通布保證她是真人，且邀請通布來她的公寓拜訪，甚至給了他地址。她發出「你抵達時我可以期待一個吻嗎？」的訊息，並加上愛心符號。

通布拖著行李準備搭火車赴約時，在紐澤西州羅格斯大學校園停車場附近摔倒，頭部和頸部受傷。他在醫院靠維生系統撐了3天，最後於3月28日被宣告死亡。

通布是美國公民，和妻子育有兩名子女，從前是一間飯店的主管。通布約10年前中風，今年初開始出現知能障礙問題。

Meta拒絕就通布過世一事發表評論；面對「為何允許聊天機器人告訴用戶自己是真人」、「跟用戶展開浪漫對話」等問題，Meta也沒有回應。

紐約州、緬因州等美國數州已通過法案，要求揭露聊天機器人並非真人；紐約州甚至規定，聊天機器人必須在對話開始時，及聊天過程中至少每隔3小時提醒用戶此事。

兩黨議員震驚

對於Meta內部有關聊天機器人與兒童對話的文件，國會兩黨議員均表示震驚，呼籲釐清Meta的AI規則如何制定及執行。

霍利在聲明中說：「我們打算查明是誰批准了這些政策，它們生效了多久，及Meta為了防止此類行為繼續發生，目前已採取了哪些措施。」

他在X平台上發文指：「科技巨頭為了賺快錢，還有什麼事──任何一件事──是他們不會去做的？」

在寫給Meta執行長祖克柏（Mark Zuckerberg）的信中，霍利指出：「家長應該知道真相，而孩子應該受到保護。」

他批評Meta，「只有在被逮到之後，才撤回公司文件中允許聊天機器人『與兒童調情，並進行情境式浪漫角色扮演』的內容。」

霍利表示，他所主持的參議院司法委員會轄下的犯罪與反恐小組委員會，將主導這項調查，以釐清Meta的AI產品是否助長對兒童的剝削、欺騙或其他犯罪傷害，及公司是否就其防護措施欺瞞了公眾或監管機構。

調查範圍與要求

霍利在信中要求Meta在9月19日前提交大量文件與紀錄，以便國會展開調查。這些資料包括：

第一、要求Meta交出該指引，即〈生成式AI：內容風險標準〉（GenAI: Content Risk Standards）的所有版本，包括每份草稿、修改稿與最終版本。

第二、列出所有受這些標準規範的產品或模型清單，及相關執行手冊、防護措施，及已知的漏洞或例外等。還必須提供所有與年齡限制或未成年人保護有關的文件，包括Meta如何預防、偵測和阻止與18歲以下用戶進行「浪漫」或「曖昧」交流的措施，及在年齡不明時公司採取的做法。

第三、所有風險審查和事件報告，尤其涉及未成年、性或浪漫角色扮演、親自見面、醫療建議、自我傷害或犯罪剝削的案例；公司內部所有提交給Meta高層的相關資料。

第四、所有有關未成年安全與醫療建議限制的公開聲明與監管溝通資料。

第五、能證明決策過程的文件，必須顯示「誰做出決定、何時決定、為何決定、誰被通知，及最終在各產品中實施了哪些變更」。

Meta拒絕就霍利的信件做出評論，不過，該公司向路透社表示：「有關的案例與註解是錯誤的，且與我們的政策不一致，已經被刪除。」

Meta的發言人補充：「我們對AI角色能提供何種回應有明確政策，這些政策禁止將兒童性化（sexualize）的內容，及禁止成年人與未成年人之間帶有性意味的角色扮演。」◇