AI教父：憂AI技術失控

在谷歌（Google）人工智慧（AI）部門的著名開發者辛頓（Geoffrey Hinton）週一（5月1日）證實，他上週辭職，以便自由談論這項技術的危險性。

75歲的辛頓有「AI教父」之稱，他在神經網絡、深度學習方面的工作成果，塑造了當今的AI系統。辛頓為谷歌服務了10年，協助這家科技巨頭開發AI系統，但他最近對這項技術感到憂心。

在週一的一則推文中，辛頓說，他離開谷歌是為了能自由談論AI的風險，並不是想批評谷歌。辛頓的推文寫道，「我離開是為了能談論AI的危險，不需考慮這對谷歌的影響。谷歌的行為非常負責任。」

《紐約時報》率先報導了辛頓離職的決定。他對《紐時》說，他有些後悔他所做的工作，只能安慰自己說，「如果我不做，其他人也會做。」辛頓憂心表示，「很難看出如何防止壞人利用它（AI）做壞事。」

辛頓還提到，他擔心AI可能造成許多人失業，並使網路上充斥著假的照片、影片和文字，人們將「無法辨別真假」。

他還指出，AI驚人的進步速度超出他的預期，隨著科技公司改進AI系統，它們會變得越來越危險。

辛頓說，過去有人擔心AI有一天會比人聰明，「我曾認為這是不可能的，那至少是30年到50年之後的事。但顯然我現在不再這麼想了。」有專家表示，所謂的AI威脅是假設性的；但辛頓認為，谷歌、微軟（Microsoft）及其他公司之間的競爭，將升級為一場全球競賽，若沒有國際監管，這場競爭不會停止。

目前，OpenAI、微軟和谷歌是AI技術的領先者，但IBM、亞馬遜（Amazon）、百度和騰訊也在開發類似的技術。

今年3月，許多科技界名人簽署公開信，呼籲高階的AI開發至少暫停6個月，以制定有關AI的共享安全協議，否則可能對「社會和全人類構成深刻風險」。◇