開放權重AI模型 美擬免除安全測試

據兩名知情人士透露，白宮官員週二（8月4日）告訴美國幾家主要人工智慧（AI）開發商，川普政府將不會對開放權重（open-weight）AI模型進行自願性安全測試。

開放權重模型是指核心組件向公眾開放的AI系統，輝達（Nvidia）的Nemotron和Meta公司的LLaMA都是此類系統；封閉權重模型（閉源模型）則是由特定公司控制的AI系統，美國主要的閉源模型開發商包括OpenAI、Google、Anthropic。

週二，Meta、Anthropic、OpenAI、Google等四家主要美國人工智慧公司的代表前往白宮，與白宮討論政府新近完成的先進AI模型自願性網路安全測試框架。

據五位了解會議情況的消息人士向路透社透露，白宮已經與這幾家公司的工作人員就這項尚未公布的測試規則進行了討論。

此次會議召開前，AI研發巨頭OpenAI和Anthropic在最近兩週先後揭露，其AI工具曾在網路安全測試期間未經授權成功入侵其它公司的系統。這些未能控制的網路入侵事件引發了美國國會議員的擔憂，即越來越強大的AI模型是否可能被用來發動或促進網路攻擊。

川普政府今年6月表示，這項計畫推出的測試將採取自願參與的方式，是為具備先進駭客攻擊能力的AI模型設計的。OpenAI和Anthropic都擁有具備先進網路安全性能的模型。

五位民主黨聯邦參議員週二致信川普，呼籲政府與國會合作推出立法，讓為最先進的美國製造的AI模型，即「前沿模型」（frontier model）所制定的測試規則永久化。

這些議員在信中表示：「美國承擔不起營造這樣一種政策環境所帶來的風險：最先進的美國AI系統受到不透明的逐案限制，而中國的替代系統卻顯得更便宜、更容易獲取，而且部署也更可預測。」◇