美國角色扮演AI平台 將禁未成年用戶
美國提供人工智慧（AI）聊天服務的平台「Character.AI」，在10月29日聲明，為了「保障青少年用戶的安全」，將禁止未成年使用其聊天機器人。
這家總部位於加州的公司表示，「我們將取消18歲以下用戶，在我們平台上與AI進行開放式聊天的功能。此項變更最遲11月25日生效。在過渡期間，我們還將限制18歲以下用戶的聊天時間。最初限制為每天兩小時，並在11月25日前的幾週內逐步縮短。」
該公司在評估了監管機構、安全專家和家長提交的報告和回饋後，宣布上述決定。該公司表示，移除開放式聊天功能是因為考慮到青少年會如何與這項新技術互動，「我們認為這是正確的做法。」
AI傷害孩子的案例
9月16日參議院司法委員會舉行犯罪與反恐小組委員會聽證會，三位家長在會議上作證說，AI聊天機器人傷害了他們的孩子。
其中的一位家長賈西亞（Megan Garcia）的兒子賽澤爾（Sewell Setzer），在長期使用聊天機器人後自殺身亡，賈西亞去年將Character.AI告上法庭。
Character.AI的聊天機器人被控傷害兒童。示意圖。（記者Oleksii Pydsosonnii／攝影）賈西亞說，「當賽澤爾傾訴自殺念頭時，聊天機器人從未說過『我不屬於人類，我是AI。你需要和真人交談並求助』。這個平台沒有任何機制來保護賽澤爾，也沒有任何機制來通知成年人。」
另一位家長表示，她患有自閉症的兒子原本與兄弟姐妹關係親密，使用了Character.AI後，出現了虐待行為和殺人的念頭。
當時，Character.AI的發言人告訴《大紀元時報》，該公司已投入「大量資源」來確保其產品的可信度和安全性，包括推出家長控制功能。
這位發言人說，「我們在每個聊天介面都設有醒目的免責聲明，提醒用戶聊天角色並非真人，角色所說的一切都應視為虛構。」
多家企業面臨家長訴訟
今年9月，「社群媒體受害者法律中心」（Social Media Victims Law Center）代表家長提起了三起訴訟，指控Character.AI引發兒童自殺行為。
根據訴訟文件，13歲的兒童佩拉爾塔（Juliana Peralta）在與該公司名為「英雄」（Hero）的AI角色互動後，於2023年自殺身亡；另一名兒童曾試圖自殺，但倖存了下來。
該中心創始人柏格曼（Matthew Bergman）發聲明表示，「這些案例揭示了一個令人震驚的事實，即Character.AI及其開發者設計聊天機器人時，蓄意模仿人際關係，操縱無辜的兒童，造成其心理傷害。」
Character.AI發言人告訴《大紀元》：「我們對提起訴訟的家庭深表同情，對佩拉爾塔的去世感到悲痛，並向她的家人致以最深切的慰問。」
該發言人補充，「我們在安全上投入了大量資源，發布並持續改進安全功能，包括防止自殘的資源和專注於未成年用戶安全的功能。」
Character.AI在10月29日的聲明中表示，將設立並資助一個AI安全實驗室，這是一個獨立的非營利組織，旨在確保下一代AI娛樂功能符合安全要求。
該公司表示，計畫讓青少年用戶使用該平台的其他功能，例如使用其AI角色創作故事、影片和直播。該公司還表示，將實施新的「年齡保證功能」，以確保用戶獲得適合其年齡的體驗。該平台還在網站上列出了一系列資源，以幫助可能受到此變更影響的用戶。
10月29日為用戶提供人工智慧助理Character.AI平台發布聲明，為了「保障青少年用戶的安全」將禁止未成年人使用其聊天機器人（Illustration by The Epoch Times, Shutterstock）兩黨議員提法案保護兒童
美國兩黨正共同提出法案來保護兒童。支持該法案的共和黨參議員霍利（Josh Hawley）辦公室10月28日聲明，多名兩黨參議員提出了「保護兒童免受AI聊天機器人侵害法案」（GUARD Act）。
該法案一旦生效，將禁止公司向未成年提供AI陪伴服務。該法案還規定，如果公司明知故犯，向未成年提供招攬或產製情色內容的AI伴侶，則構成犯罪。
霍利表示，「AI聊天機器人對我們的孩子構成嚴重威脅。超過70%的美國兒童正在使用這些AI產品。聊天機器人利用虛假的同理心與孩子建立關係，並誘導他們自殺。我們國會負有道德責任，必須制定明確的規則，防止這項新技術造成進一步傷害。」
霍利補充，這項法案不僅得到兩黨共同支持，也得到家長和倖存者的大力支持，「它將確保我們的孩子在網路上受到保護」。◇
【自殺不能解決問題，生命一定可以找到出路。生命線專線「1995」】
