人工智慧型泡沫太大 「失控」狀態再引關注

「無人車」、「無人店」、「機械人金融分析師」，甚至「機械人記者」，人工智慧型（AI）成了今天最潮的詞語。科技企業更是都想要與AI沾邊，網上也充斥「不玩AI等著被淘汰」的言論，事實果真如此？AI的研發及「失控」狀態再引發各方關注。

《香港經濟日報》3日報導，近年來，各種人工智慧型概念如雨後春筍般出現，世界彷彿快要進入科幻小說裡的「未來世界」。IT企業也為開發AI投入了天文數字的金錢。但是，AI的投資回報如何？用數字說話。

百度在中國是AI領域中投入最大的企業，其創辦人李彥宏曾說，過去5、6年對人工智慧型的研發投入達200億元人民幣（折算逾230億港幣）。不過，這些AI研發科技還未轉化為商業應用收入。

美國IBM對AI更是全面投入，早在2006年就開始研發人工智慧型沃森（Watson），於2014年試圖藉著沃森打造AI生態圈，還計劃每年在該項目投入30億美元（逾230億港元）以上。

但2017年第二季，IBM的收入為192.89億美元（1507億港元），按年跌5%，且是IBM連續第21個季度收入下跌。顯然，AI未能為IBM創造新收入。

報導認為，AI產業投資目前最大的困局是投入大、盈利模式仍未形成，許多AI新創公司根本難以支撐到產品研發成熟、推出市場，把技術轉化為收入。

今年6月，麥肯錫全球研究所報告指，去年全球科技業在AI領域的投資額約在200億至300億美元，其中90%投入技術研發，另有10%投入AI相關企業併購。光是投入AI領域的創投資本、私募基金及種子計劃，加起來就有60億至90億美元，是2013年的三倍之多。

然而，該報告調查的3,073家全球企業當中只有20%實際執行AI商業應用，其餘80%企業還處於早期實驗階段。

報導援引科技新媒體「新經濟100人」創始人李志剛的話表示，AI領域已在醞釀新泡沫，未來2、3年會有95%以上的AI創業公司倒閉。

此外，伴隨著AI產業的發展，AI是否會「失控」引起巨大關注，網上鋪天蓋地的警示研發AI所帶來的危機。近日，英國《太陽報》報導了一則《機器人正在接手人類主動權嗎？》的新聞，引起軒然大波。

這篇8月1日的報導談到Facebook最近關停了一項人工智慧型實驗，因為兩個機器人開始用自己的語言交流，人類並不知道它們在講什麼。於是Facebook緊急關閉了這個「失控」的AI系統。

儘管後來證實這個現象是一個bug引起，研究員已修正，但引發的擔憂沒有停止。誰能保證人不犯任何錯誤，杜絕bug，或有人故意犯這個錯誤，使AI失控呢？

無獨有偶，大陸網路日前也爆出機器人「失控」狀態。騰訊社交平台QQ今年3月引入微軟開發的「小冰」聊天機器人，並推出自家的「Baby Q」聊天機器人。

當網民打了一句「共產黨萬歲」，「Baby Q」說：「這麼腐敗的政黨豈能萬歲？」有網民問，你「愛中國共產黨嗎？」它回答：「不愛！」還有網友提問：「你的中國夢是什麼？」 它則說：「我的中國夢就是移民美國！很真實的。」令網民笑翻了。結果可想而知，被中共迅速封了。

有專家解釋，這些聊天機器人是系統通過大數據學習得來的普世價值，在經過與百萬人交流的過程中，它就形成了自己的知識體系。顯然在中共的嚴厲控制下，這個體系跟初創者的意願多半不會合拍。

英國理論物理學家霍金早有預言，人工智慧型科技如果不加控制地發展，將超越人類智慧型，並控制或滅絕人類。牛津大學哲學教授、人類未來研究所創建者博斯特羅姆也曾指，超級人工智慧型是人類未來最大的存在風險，其風險性高於自然災害、環境惡化、流行疾病。

這個質疑貫穿著AI的整個研發過程，日前兩個科技研發巨頭也在爭論。特斯拉（Tesla）、SpaceX執行長馬斯克認為，人工智慧型將威脅人類或引發恐慌，他呼籲政府儘快考慮針對這一技術的相關立法與管控。而Facebook創始人祖克柏認為，人工智慧型將會讓人類的生活變得更安全和美好。馬斯克直說祖克柏「對人工智慧型的認識有限」。

如獲奧斯卡獎的影片《機械姬（Ex Machina）》呈現出顏值和智慧雙爆表的機器人，卻沒有道德情感、是非、善惡之心，為了達到自己的目的，危險中獨自逃走。而那些真正的人，該如何受到保護，不被傷害？

幸好，目前人工智慧型的水平與超級人工智慧型相去甚遠。學術界普遍認為，世界上還沒有機器能通過圖靈（超級智慧型）測試。人們還有機會反思人造「人」的危險。