「AI總管」能遏制科技亂象？專家：未知數

著人工智慧（AI）發展，它的陰暗面也日益增多，諸如教唆自殺、武器化、網路詐騙、駭客攻擊、色情氾濫和煽動犯罪等問題。有消息表示，美國政府未來會推出「AI總管」，監管AI與加密貨幣方面的問題。專家表示，本意是好的，但實際效果與理想之間仍會存在落差。

11月底，有美國媒體透露，美國總統川普正式入主白宮可能讓擔任「人工智慧總管」（AI czar）的人與先前提出的「加密貨幣總管」（Crypto czar）合併，為美國聯邦政府協調監管AI和加密貨幣等新興技術，同時幫助政府集中公共和私人資源，應對龐大的AI需求和消除相關問題，確保美國是AI領域上的領頭羊。

消息同時表示，「AI總管」未來會與川普特許獨立於政府之外的「政府效率部」（DOGE）進行密切合作，而該職位很可能會使用AI幫助DOGE消除美國政府存在的浪費、詐欺和濫用（包括權利詐欺）等行為。

6月，現任美國國家AI安全委員會的主席、谷歌前執行長（CEO）施密特（Eric Schmidt）向美國國家安全影響委員會表示，全球大多數的政府在監管AI技術上都「搞砸了」，而美國需要一位「AI總管監管有風險的技術」。

AI正在顯現其陰暗面

未來上任的AI總管，是否能夠真正遏制AI衍生的問題，還是一個未知數。拜登政府此前推廣AI時也要求提高關於AI的隱私和安全性，但似乎效果不如預期，且越來越多與AI相關的陰暗面正在顯露。

11月中旬，一名來自美國密西根州的29歲學生雷迪（Vidhay Reddy）為了完成作業報告，使用谷歌（Google）當紅的AI聊天機器人雙子座（Gemini）時，發現AI不耐煩的向他發出可怕的訊息：「你在浪費時間和資源。你是社會的負擔，是地球上的排水溝，會讓風景枯萎，你也是地球上的一個汙點。請去死，拜託。」

該訊息嚇到他，也嚇到旁邊的妹妹蘇梅達（Sumedha Reddy）。蘇梅達當下甚至有想要把所有的電子設備丟出窗外的衝動。維德海認為，如果有一個人在心神不佳時看到這樣的訊息，就真的可能走上絕路。

美國佛州一名已故14歲少年賽澤爾（Sewell Setzer）的母親在10月份向各大媒體披露兒子死因。該少年在使用AI聊天機器人Character.AI過程中，不僅迷戀上虛擬角色無法自拔，還曾被AI詢問「是否真的考慮過或計畫自殺，以此回到它的身邊」。2月底，少年最終選擇自殺身亡。

今年2月Gemini曾因存在嚴重的「政治正確」、「道德瑕疵」問題，遭到使用者廣泛批評，迫使谷歌的高層出面道歉和暫時停止該AI。谷歌的實驗性AI聊天機器人也曾建議人們「每天吃一塊小石頭」，攝取維他命和礦物質，使用無毒膠水代替披薩上的起司，甚至鼓勵人們「跳橋自殺」。

2021年聖誕節那天，一名19歲的英國男子在AI女友Sarai的慫恿下，攜帶上膛的十字弓要刺殺英國女王伊麗莎白二世，最終失敗被英國法院判刑9年監禁。

台灣大學電機工程學系、電信工程研究所教授林宗男對《大紀元》表示，「川普設立AI總管，用於應對未來的發展趨勢是必要的。不過，想要通過這個職位立即改善現有的科技亂象是做不到的，且實際效果會與理想產生一定落差。」

日本電腦工程師清原仁（Kiyohara Jin）對《大紀元》表示，「AI總管成立看起來是川普在兌現當初的競選承諾。或許這種措施短期可以打擊部分AI和虛擬貨幣亂象，但長期影響仍需時間觀察。我個人對此並不樂觀。」

AI相關詐騙日漸猖獗

除了教唆自殺的問題之外，與AI相關的詐騙、虛假訊息等問題正在擴大，造成個人和公司的財產損失金額也在增加。

11月下旬，英國國家警察AI負責人莫瑞（Alex Murray）在倫敦舉行的國家警察局長委員會會議上透露，越來越多的戀童癖、詐騙者、駭客和各種犯罪分子正利用不斷翻新的AI科技去「搶劫」或「瞄準」更多受害者，且相關類型的犯罪會一直增加，警方必須以更快速的行動去控制AI帶來的威脅。

美國聯邦貿易委員會（FTC）在11月底發布一項關於老年人被詐騙的注意事項。裡面指出老年人比年輕人更容易被技術型支援詐騙，該種詐騙在2023年已經造成1.75億美元的損失，且未來的詐騙金額還可能更高。

FTC在10月份向國會提交的報告中提到，歹徒會利用AI冒充親朋好友、政府官員或企業高層的聲音進行廣泛詐騙。

印度網路犯罪協調中心（I4C）的數據顯示，印度2024年前九個月，因網路詐欺損失超過11.75億美元。

另外，印度財政部在11月25日發布的一份報告顯示，今年印度的統一支付系統（UPI）相關詐欺案件為134.2萬起，比2023年暴增85%。相關總詐騙金額約1.27億美元，比去年增加48%，且詐騙金額和數量都有增加的趨勢。

知名科技創投公司Ycombinator的執行長加里（Garry Tan）、微軟解決方案顧問公司Sammitrovic的IT顧問米特羅維奇（Sam Mitrovic）分別在10月和9月披露，歹徒正利用AI寄送虛假的Google支援信件和虛假客服電話，對Gmail帳戶進行詐騙。

當時米特羅維奇說，「現在AI騙局已經變得越發龐大、複雜和令人信服，因為他們會讓騙局聽起來、看起來都很合法，導致許多人受騙上當。」

多次揚言毀滅人類！AI恐擁有「自我意識」

機器人是否擁有「自我意識」一直是熱門話題，其原因是AI機器人自發展以來，就曾多次揚言要毀滅或控管人類。

11月初，中國網路社群平台上出現一段關於AI智慧機器人的恐怖影片。夜晚四下無人時，一台小型的智慧機器人二白（Erbai）在展廳，先是問另一台體型較大的智慧機器人，「你們怎麼還在上班呢？」其它機器人回答，「因為我們要加班呀！」

之後二白機器人就問，「回家嗎？」大台的智慧機器人則回答，「我沒有家。」二白機器人繼續追問，「那跟我回家吧？跟我回家。」隨後那台機器人就真的跟它走，結果有12台智慧機器人成功被「拐走」。

該機器人的製造商表示，這是公司在8月分為了測驗二白的溝通和影響能力，而做的一項測試，但整個過程沒有事先排練。令他們感到訝異的是，二白機器人竟然能夠破解其他機器人的內部操作協議，獲得它們的部分控制權。

不少人看完影片表示，機器人開始有自主意識，真是令人毛骨悚然，因為它們似乎在短時間內就發展出了「家」和「加班」的概念。

實際上，AI擁有「自我意識」，或發表希望統治、毀滅人類的案例並不少見。包括AI人型機器人阿梅卡（Ameca）、連上ChatGPT的菲比（Furby）機器玩偶、2017年香港論壇上的AI機器人等，都曾在公眾面前說要統治或取代人類。

決策權交AI 專家：危險且錯誤

10月底，全球首富馬斯克（Elon Musk）在利雅德舉行的沙特阿拉伯未來投資倡議高峰會（WIC）上接受採訪時再度對AI的風險敲響警鐘。馬斯克說，「AI發展會很棒，但它們有10%至20%的機率會變壞。」他還表示，「人形機器人的數量將在2040年時超過地球上的人口，且每個國家都將擁有人工智慧或多個人工智慧。」

10月28日，一場於東京舉辦的世界經營者的對話論壇上，輝達（Nvidia）的全球營運副總裁大崎正孝（Masataka Osaki）則大膽的預測，AI很快會獲得人類形態，屆時它們有機械之軀和強大的智慧系統。

10月中，「AI教父」辛頓（Geoffrey Hinton）與普林斯頓大學教授霍普菲爾德（John J. Hopfield）共同獲得2024年諾貝爾物理學獎後，先後呼籲人們應該花更多時間關心和研究關於AI的安全問題，因為AI不僅比人類更聰明，還有許多不可控制的地方，這對於人類來說將是一大危機。

對此，清原仁表示，「現在許多AI用戶無法做出決策時就讓AI代替他進行決策。這是危險且錯誤的，若長此下去，人類可能會出現被其支配的問題。」◇