涉利用AI監測與控制輿論 OpenAI刪除中國、北韓用戶

ChatGPT的人工智慧開發商OpenAI近日指出，由於旗下AI技術遭到用戶應用在「惡意目的」，包括監視與控制輿論操作等，OpenAI已經刪除了中國及北韓用戶的帳號。

路透社報導，在OpenAI一份報告中指出，這些使用旗下AI技術的活動當中，有獨裁政權（如中共、北韓）試圖利用AI來對付美國及中國當地人民，主要用於監控行動，或生成文章操縱媒體輿論。

報導指出，用戶使用ChatGPT生成西班牙語的新聞文章，內容主要在貶低美國，並以中國企業名義在拉丁美洲的主流新聞上發布。另一個案例，是北韓以AI生成虛構的求職者履歷和線上資料，以騙取西方企業工作機會的惡意行為。

針對金融詐騙，一個ChatGPT用戶被偵測到與柬埔寨的金融詐騙行動有關，該用戶使用OpenAI技術在社群平台X、臉書等，進行多國翻譯和生成評論。

報導表示，美國政府對此表達關切，尤其對中共可能以AI鎮壓人民、散布錯誤訊息，以及破壞美國及其盟友的安全。因此，OpenAI宣布刪除這些中國、北韓等用戶的帳號，避免自身技術遭到濫用。