機器人用人類不懂的語言溝通 令人擔憂

「我能我我其它一切，」鮑勃（Bob）說。

愛麗絲（Alice）回答：「球是零對我來說對我來說我對我來說對我來說對。」

這不是兩個咿呀學語的小孩的對話，更不是說出語法錯誤的口吃語，而是兩個機器人使用的一種溝通語言。

臉書研究人員發現，人工智慧型（AI）程式使用這種人不懂而只有電腦懂得的語言進行對話。

《數碼雜誌》（Digital Journal）近日報導，因為此程式創建了自己的語言，所以臉書研發人員關閉這樣人工智慧型（AI）語言程式。

研究人員意識到，人工智慧型程式產生了新語言，但它不再是英語，而是僅能被系統自己識別的代碼字。

七月初該事件被披露。人們因此聯繫到特斯拉電動汽車創始人馬斯克（Elon Musk），對人工智慧型提出了警告。

馬斯克在7月下旬的全美州長協會上說：「通過這個罕見的人工智慧型案例，我認為我們需要積極主動地而不是被動地對人工智慧型進行監管。因為當我們需要對人工智慧型進行監管時，會已經太遲了。」

臉書首席執行官祖克柏（Mark Zuckerberg）表示，馬斯克提出這樣的警告是「非常不負責任的」。馬斯克回應，祖克柏「對這個問題的理解不足。」

機器能產生自己的語言，但人卻不懂其內在原因。 (Photo credit should read ISAAC LAWRENCE/AFP/Getty Images)

機器用自己的語言進行「交流」

研究人員經過綜合分析，發現其它案例也會出現這種令人難以理解的人工智慧型表現。也就是說，人工智慧型總是與人教給它的英語脫離，而形成一種新的機器語言。

雖然，新形成的語言所含的各個短語對於人來說沒有意義，但卻是人工智慧型進行運行的語言。

「球是零對我來說對我來說我對我來說對我來說對。」（「Balls have zero to me to me to me to me to me to me to me to me to」）研究人員注意到，這些無意義的短語是一種機器人開發的語言，用於它們之間的交流。

機器不理會人的語言

研究人員解讀機器人鮑勃後來說的「我我能我我其它一切」（i i can i i i everything else），似乎表明智慧型機器人使用新語言向愛麗絲報價。

臉書研究者認為機器人可能想表達這樣的意思：「我會有三個，你有一切。」對人類來說，進行非常有效溝通的英文並不被人工智慧型看好。它可能認為，對於達到其指定的目標，這個句子是多餘的，或者效果較差。

臉書研究人員將人工智慧型的程式運行原則設定為「獎勵」。在這種獎勵的原則下，機器人認為使用人能懂的語言沒有獎勵，於是它發展了自己的「獎勵」語言。

機器人能和人握手。但是它能絕對服從人的指揮嗎？圖：2013年3月，在德國的CeBIT技術貿易博覽會上，一名遊客和人工智慧型輕量級機器人握手。 (CARSTEN KOALL/AFP)

內在原因 尚無定論

報導說，其他公司的人工智慧型研究員也觀察到程式開發簡化通信的語言。馬斯克的OpenAI實驗室成功地讓人工智慧型機器人開發出自己的語言。

谷歌的翻譯服務團隊發現，他們編寫的人工智慧型程式可以靜悄悄地編寫自己的機器語言來幫助翻譯句子。翻譯開發人員向系統添加了一個神經網路，使其能夠對未被教授的語言進行翻譯。

研究人員認為，如果這些人工智慧型語言大面積地散佈，可能會影響神經網路的開發，但目前尚無足夠證據表明，這些人工智慧型能導致機器控制開發者。

然而，人工智慧型所產生的語言確實為其繼續發展增加難度，因為人類無法掌握這種機器所使用的新語言的邏輯性。