一本正經胡說八道 DeepSeek汙染網路

網友查核發現,DeepSeek提供的「學術文獻」純屬子虛烏有、「史料」也是錯誤的。示意圖。(Aytac Unal/Getty Images)
網友查核發現,DeepSeek提供的「學術文獻」純屬子虛烏有、「史料」也是錯誤的。示意圖。(Aytac Unal/Getty Images)

【記者呂適約/綜合報導】

中國人工智慧AI模型DeepSeek-R1推出後在中國大陸迅速普及開來。然而DeepSeek的問題日漸突顯出來,使用者們很快發現,這款AI工具提供的資料充滿了虛假訊息,甚至是其自行胡編亂造的內容,對中文網路的資訊環境造成了嚴重汙染。

據新唐人報導,眾多用戶發現,在利用DeepSeek查閱資料以及撰寫文章時,其給出的內容中所涉及的數據往往來源模糊不清,還存在明顯的邏輯漏洞,甚至經常會輸出完全錯誤或虛構的資訊。經過簡單查證後,很多使用者對DeepSeek這種「一本正經胡說八道」的表現大為震驚。

捏造學術文獻、瞎編阿里業績

例如近期中國國產動畫電影《哪吒之魔童鬧海》(或稱《哪吒2》)十分熱門,在知乎平台上有網友針對這部電影的導演及團隊提了一個問題,DeepSeek給出回答。然而,有網友核查事實後發現,回答中稱《哪吒》電影裡敖丙的變身鏡頭在法國安錫國際動畫影展上引起業界轟動,事實上被送到法國參展的影片,並不是「餃子」導演的《哪吒2》,而是追光動畫出品的《哪吒重生》,且後者也根本不存在「敖丙變身」的內容,包括製片方給員工分房子、攻克水下流體特效等內容,也都全部是DeepSeek-R1自行編造出來的,沒有任何依據。

另一個典型例子是,有中國網友要求DeepSeek撰寫關於《哈利波特》有助於英語學習的文章,DeepSeek創作的文章洋洋灑灑、有根有據,包括引用5篇學術文獻。但經網友核查,發現其中4篇「文獻」都純屬子虛烏有,唯一一篇真實存在的文獻中也根本就沒有談及《哈利波特》。

第三個例子是有人利用DeepSeek生成的虛構歷史資料,對歷史博主「知北遊」設局,而後者也險些「上鉤」。這些AI生成的資料中搞錯了兩個歷史人物的死亡順序,讓 「知北遊」對設局者提供的「新史料」產生了懷疑,最終經過多日的艱苦查證而得以證偽。

還有網友在試用DeepSeek時發現,這款AI工具竟然自行瞎編了阿里的業績數據。

更讓使用者深感失望的是,DeepSeek在有關法律規範的創作內容中也錯誤百出。例如:DeepSeek曾將《信息技術人工智能術語》的標準號GB/T 41867–2022錯誤寫成GB/T 5271.31–2023,而後者根本不存在;在分析法律問題時,DeepSeek常常會引用一些看似相關但實際並不適用,甚至已經被廢止的法條,從而得出一個「看似合理實則完全錯誤的結論」,顯示這款AI工具的推理能力存在嚴重缺陷。

DeepSeek「幻覺」問題

對此,微博公眾號「山自」 3月5日發文評論說,由於缺乏真正的法律推理能力,DeepSeek提供的有關法律問題的資料,對於那些尋求專業法律建議,卻因缺乏專業知識而依賴的人來說,可能會造成嚴重誤導,帶來意想不到的後果。

文章寫到,「DeepSeek在某些方面確實展現出一定能力,但它的『幻覺』問題不容忽視,它如同一個固執己見的 『犟種』,不顧事實和邏輯,按照自己的方式肆意輸出內容,我們不能因它帶來的一時便利,而忽視潛在風險。」

值得一提的是,AI工具的「幻覺」問題反映在各個方面,而且越是公共討論聚集的領域,例如時政、歷史、文化、娛樂等,越是重災區。對此,中國網友正討論的十分熱鬧。

有江蘇網友分析說:「DeepSeek的數據來源是互聯網和自媒體的胡亂整合,在對原數據沒有辨別力,還加上自創的推理,錯誤和虛假百出。」有上海網友道:「而且一樣的問題,換個手機問,回的答案不一樣。」◇

延伸閱讀
傳中共下令 禁頂尖AI高層赴美
2025年03月03日 | 21天前
美祭對等關稅 專家:對中共不會手軟
2025年02月20日 | 1個月前
取消