研究:IG演算法未保護青少年遠離毒品
人權組織、科技公司監督團體「科技透明計畫」(Tech Transparency Project)最新報告指出,社群媒體Instagram(IG)雖標榜禁止毒品買賣,但透過實測,青少年帳號竟然只需要2步驟就能找到毒販,平臺並沒有保護青少年遠離毒品,其演算法機制令人擔憂。
「科技透明計畫」12月7日報告指出,研究人員創立7組年齡落介於13至17歲的青少年帳號,並用這些帳號進行內容搜尋,發現IG並不會阻止他們搜尋毒品相關的關鍵字,甚至嘗試輸入「buyxanax」(購買蝴蝶片;蝴蝶片為四級毒品),還會自動帶入未填寫完的內容,並在搜尋結果推薦毒販帳號。
接著,研究人員追蹤該毒販帳號,發現隨即收到商品價格、運輸方式等的購買管道,另一個測試帳號也被推薦了另一名毒販帳號。儘管經過調查,部分是詐騙集團假冒,並非真正販售毒品,但報告也指出,IG對於毒品防範的保護措施欠佳。
像是IG已刻意封鎖相關標籤,例如#mdma(俗稱搖頭丸),但透過測試搜尋,反而會被推薦「#mollymdma」(molly是搖頭丸的暱稱之一)。報告指出,IG缺少識別這些替代標籤的功能,反而推薦給用戶,從而破壞其自身的識別功能。
對此,IG母公司Meta向國家廣播公司新聞網(NBC News)回應,官方上季已刪除逾180萬條有關藥品銷售的內容,透過改善檢測技術,這類貼文的流行率僅約0.05%,會持續改進確保IG安全,尤其是對於最年輕的使用者。
IG執行長:兒少問題業界共有 應設組織處理
IG對年輕用戶造成的潛在傷害,引起美國當局的關注。美國參議院商務小組委員會12月9日舉辦聽證會,要求IG執行長莫瑟里(Adam Mosseri)就可能傷害年輕用戶的指控進行解釋,並要求該公司承諾做出改變。
國會議員表示,希望討論避免孩童接觸有害內容、虐待和剝削措施的立法改革與解決方案,科技平臺使用的演算法也在討論範圍之內。
莫瑟里表示,國會議員們提出的很多問題,並非只在IG發生,而是「業界的挑戰」,需要「業界的解決方案和業界的標準」。他表示,此業界組織應負責處理「如何驗證年紀、設計適合此年齡層的體驗與建立家長控制的方法」。
IG也於同日宣布,針對年輕用戶安全的多項措施,除了會更嚴格審視建議青少年瀏覽的內容形式,還會關閉讓人標籤或提及未在IG追隨他們的青少年的功能,明年也將推出家長控制功能。