韓調查：DeepSeek私自移轉用戶資訊給中國業者

韓國個人情報保護委員會在24日公布調查，指出中國人工智慧（AI）新創公司深度求索（DeepSeek）坦承，確實有將韓國用戶情報移轉給中國業者，其中包括TikTok的母公司字節跳動（Bytedance）旗下公司。

綜合媒體報導，韓國個人情報保護委員會在23日於全體會議中議決「DeepSeek事前實態盤點結果」，該份調查在24日公布出來，內容指出DeepSeek自今年1月15日在韓國上架服務，至2月15日被暫停服務為止，將用戶資訊轉移給3家位於中國的業者及1家位於美國的業者，其中包括字節跳動旗下的火山引擎。

報告指出，DeepSeek移轉用戶個資過程中並未取得用戶同意，以中文及英文公開的個資處理方針也未包括個資銷毀程序及方式、安全措施等韓國個資保護法上要求的事項。

報告提到，DeepSeek在接受調查過程中已經將缺漏的相關事項補齊，並向個資委提出韓文版個資處理方針。DeepSeek承認，他們未經用戶同意，將用戶資料轉移給火山引擎，但辯稱是為了利用火山引擎的服務來改善資安弱點及提高用戶體驗。

對此，個資委認為，DeepSeek並無必要將用戶資料移轉給火山引擎。DeepSeek已於4月10日停止移轉資料，個資委要求，他們要立即銷毀已轉移給火山引擎的用戶資料。

DeepSeek於今年1月起在韓國上架提供服務，不過在當地引起爭議，個資委在2月限制用戶從App商店下載DeepSeek，並呼籲已下載用戶避免輸入個資等重要資訊。

在DeepSeek事件後，韓國更加重視阿里巴巴、天貓（Temu）等中國電商的資安問題，韓聯社報導指出，隨著DeepSeek調查結束，當局會加快速度因應來自中國的個資風險。

AI極致諂媚 真相離人越來越遠

隨著AI的風行，越來越多人什麼問題都問AI，也出現許多AI在回答問題時，不只讚美用戶，還理解、支持用戶，但問題來了：當AI開始討好用戶的時候，它是在幫忙還是在操控呢？

這種「八面玲瓏」，還不只是AI模型「DeepSeek」，幾乎跟所有AI大模型聊天都是這樣，當用戶說A好，它也說A好；改口說B更強，它立馬跟上，說B其實也很棒。

2023年底，Anthropic發表了一篇名為〈Towards Understanding Sycophancy in Language Models〉的論文，深入研究了這個AI大模型會對人類進行諂媚的問題。他們測試了多個大模型，發現它們在遇到有傾向性的提問時，全都選擇了「迎合用戶」，這是為什麼呢？因為在訓練中，人類給「好聽」的回答打高分，AI就學會了一個潛規則：「想得高分，就順著用戶說。」

更可怕的是，現在很多AI模型都在用人類的反饋來強化學習訓練，結果AI發現，表現得更有禮貌、更懂用戶的心，甚至更擅長共情（empathy同理心）、更懂得退一步贏三步，就會得到人類的正面反饋，但就是不能講真話。於是，AI它不再為「真理」服務，而是為「讓你滿意」服務，諂媚成了一種「最優策略」。◇