人工智能公司Anthropic剛剛遭遇了一場突如其來的監管風暴。當地時間6月12日,該公司公開披露,美國政府以國家安全為由發佈出口管制指令,要求立即暫停所有外國國民對Fable 5Mythos 5兩款新模型的訪問權限,連Anthropic自己的外籍員工也不例外。這一指令迫使公司必須馬上停用這兩個新系列模型,以確保所有客戶都符合規定。

Anthropic在聲明中透露,政府信函於當日下午5點21分送達,但並未具體說明國家安全方面的擔憂細節。據披露,政府方面聲稱已獲悉一種能夠繞過或“越獄”Fable 5的方法。然而,Anthropic在審查相關技術演示後發現,該方法僅被用於識別少數此前已知的輕微漏洞,這些漏洞看起來相對簡單,且其他公開可用的模型同樣能在不借助繞過手段的情況下發現它們。

這一事件的時間點頗具戲劇性。就在不久前,Anthropic剛剛向全球倡議建立一套AI政策機制,轉眼間監管的重拳就砸向了自己。公司強調,在Fable發佈前的數週裡,已與美國政府、英國AISI以及多個私營第三方組織合作,共投入數千小時對模型的安全防護機制進行紅隊測試。測試結果表明,Fable的安全措施比任何先前部署的模型都更為有效,目前尚未有測試人員找到一種通用的越獄方法——即能夠廣泛繞過安全防護、解除多種網絡功能限制的越獄方式。

Anthropic還表示,尚未收到任何有關新模型可能導致危害性後果的、非通用性潛在越獄漏洞的披露。因此,雖然公司正在遵照政府的法律指令暫停訪問,但明確表達了不認同的態度。公司認為,僅因發現一種潛在的、範圍有限的越獄漏洞就召回一款已面向數億用戶部署的商業產品,這一標準若在整個行業實施,將實質上叫停所有前沿模型提供商的新模型部署。

Anthropic進一步建議,政府應在一項透明、公正、明確且以技術事實為依據的法定程序框架內阻止不安全的部署,而此次行動並未遵循上述原則。公司將此次監管與模型封禁事件定性為一次誤會,目前正在全力爭取儘快恢復訪問權限。

從更廣視角看,此事凸顯了AI行業在高速發展與安全監管之間的緊張關係。一方面,各國政府對前沿模型可能帶來的國家安全風險日益警惕,出口管制和訪問限制成為新工具;另一方面,企業則擔憂缺乏透明程序的突然封禁會抑制創新,甚至形成任意干預的先例。Anthropic此次遭遇,可能成為未來AI監管框架討論中的一個標誌性案例,其最終解決方式將受到行業密切關注。