濫用美Meta模型 中共開發出軍用AI工具

根據美國國防政策智庫公布的研究顯示，共軍的研究機構已經利用美國社群媒體巨頭Meta的大型語言模型Llama，開發出可應用於軍事方面的人工智慧（AI）工具。

研究中共崛起與軍民兩用技術的華府智庫詹姆士敦基金會（Jamestown Foundation）10月底發表研究報告，香港裔副研究員張崑陽表示，這是首次有實質證據顯示，共軍專家正在有系統性研究、並試圖利用開源的大型語言模型作為軍事用途。

6名中國研究人員使用Meta於2023年2月發布的Llama 2 13B大型語言模型（LLM），並加入自己的參數，構建一套以軍事為重點的AI工具「ChatBIT」，用於蒐集和處理情報，並為作戰決策提供準確可靠的訊息。

論文提到，ChatBIT經過微調和優化，可進行軍事領域的對話和問答，能力已經接近OpenAI強大ChatGPT-4的九成。不過論文並沒有詳細說明他們如何定義性能，也沒有具體說明AI模型是否已投入使用。

中共違反Meta模型使用規定

Meta已經公開許多AI模型，包括Llama。Meta對其使用施加了限制，包括要求擁有超過7億用戶的服務需向該公司申請許可。

根據使用規定，Meta禁止將這些模型用於「軍事、戰爭、核工業或應用、間諜活動」和其他受美國國防出口管制的活動，並禁止用於武器開發及旨在「煽動和宣揚暴力」的內容。但因為Meta模型是公開的，因此該公司執行這些規定的手段有限。

對於模型遭中共利用，Meta回應表示，已採取措施防止模型遭濫用。Meta公共政策總監蒙哥馬利（Molly Montgomery）說：中共對於Meta模型的任何使用都是未經授權的，並違反了Meta的使用政策。

美國國家安全和科技領域人士正激烈辯論Meta這類公司是否應讓AI模型開源使用。美國總統拜登2023年10月已簽署要求管理AI發展的行政命令，指出創新雖可帶來巨大利益，但也存在「重大安全風險」，例如模型的「防護措施被移除」。

ChatBIT資料量遠小於其他模型

路透社提到的論文稱：「未來，隨著技術更加精細，ChatBIT將不僅應用於情報分析，還將探索在戰略規劃、模擬訓練和指揮決策中的應用。」不過研究人員指出，ChatBIT模型僅包含10萬條軍事對話紀錄，資料量小於其他大型語言模型。

Meta AI研究副總裁、加拿大麥吉爾大學資訊科學教授皮諾（Joelle Pineau）則表示：「與大多數使用數兆個詞元（tokens）訓練的模型相比，（該模型）只是九牛一毛……令我質疑他們究竟達成哪些不同的效能。」◇