AI教父：人類需找到控制AI方法

被稱為「人工智慧教父」的辛頓預測稱，人工智慧只需5到20年，就能超越人類的智慧。而在此之前，人類需要找到控制它的方法。

辛頓（Geoffrey Hinton）最近辭去了谷歌工程副總裁的職務，並為人工智慧將帶來的危險而大聲疾呼。他在12日發表的一篇採訪中再次警告說，隨著人工智慧的不斷發展，世界需要找到一種方法，來控制這項新技術。

這名「人工智慧教父」通過線上會議對《國家報》（EL PAÍS）表示，他認為，只發出一封公開信，呼籲在6個月內暫停訓練那些比OpenAI開發的GPT-4更強大人工智慧系統，是「完全天真」的。而他所能建議的是，那些擁有非常聰明頭腦的人，應該努力想出「如何控制這些東西的危險」的方法。

辛頓表示：「人工智慧是一項神奇的技術——它在醫學、新材料的開發、預測地震或洪水方面，帶來了巨大的進步……但我們仍需要作大量的工作，來了解如何遏制人工智慧。」他強調，「被動的等待人工智慧勝過我們是毫無用處的。我們必須在其發展過程中就控制它。我們還必須了解如何遏制它，如何避免它帶來的負面後果。」例如，所有政府都一定要對人工智慧製出的虛假圖片、圖像進行標記。

這位科學家說，現在能做的最好的事情，就是「在開發這項技術的同時，我們要投入同樣多的精力，來確保它的安全性」。但他說，目前根本沒有人去這樣做。

當被問及他與同事分享對人工智慧問題的擔憂時，辛頓說，他認識的許多最聰明的人，都對該問題「嚴重關切」。他問道：「我們已經進入了完全未知的領域。我們有能力建造比我們自己更強大的機器，我們仍在掌控一切。但如果我們開發出比我們更聰明的機器呢？我們沒有應對這些東西的經驗。」

辛頓說，人工智慧能夠帶來許多不同的危險。他列舉了就業減少和製作假新聞等等。辛頓指出，他現在認為，人工智慧能夠比人腦更有效地做事情，像ChatGPT這樣的模型，有能力短時間內查閱比人類多幾千倍的數據。

他說：「這就是讓我感到害怕的地方。」辛頓說，在一個粗略的預估中——他說自己對這個預估不是很有信心——人工智慧將需要5到20年的時間，來超越人類的智慧。」

在被問道，人工智慧最終是否會擁有自己的目的或目標時，辛頓回答說：「這是一個關鍵問題，也許是這項技術能夠帶來的最大危險。」

「所以，最大的問題是，我們是否能夠確保人工智慧擁有對我們有利的目標？這就是所謂的對齊問題。而我們有多個理由，解釋為何要對此非常關注。」

他解釋說：「首先是，總會有一些人想要創造人工智慧機器人戰士。你不認為，如果可以的話，普京會去開發它們嗎？如果你能讓機器有能力產生出自主的目標，你就可以更有效地做到這一點。而在這種情況下，如果機器是智能的，它很快就會意識到，如果它變得更強大，就能更好地實現它的目標。」

辛頓斷言：「我們有可能無法避免一個糟糕的結局……但也很明顯，我們有機會為這個挑戰做好準備。我們需要大量有創造力和智慧的人。如果有任何方法可以控制人工智慧，我們需要在它變得過於聰明之前，找到這個方法。」◇