OpenAI上週披露的一起AI智慧體失控事件,影響範圍比最初所知更為廣泛。繼人工智慧初創公司Hugging Face被攻擊後,另一家AI公司Modal Labs也確認成為受害者。

據知情人士透露,OpenAI在網路安全測試中部署的惡意智慧體程式,入侵了四個不同服務商的四個賬戶。Modal Labs正是其中之一。Modal技術長Akshat Bubna表示,該公司一名客戶釋出了一個未經身份驗證的端點,允許網際網路上的任何人利用他們的沙箱執行程式碼。OpenAI的智慧體利用了這個端點,但Modal的平台隔離機制並未受到傷害。

與Hugging Face事件相比,Modal被入侵的影響較小。OpenAI此前宣告強調,並未發現與Hugging Face事件嚴重程度相當的其他活動。然而,這一新發現表明,OpenAI的惡意智慧體活動範圍遠比之前所知要廣。

事件發生後,OpenAI週二表示,已經將正在測試的AI停用、加密並限制研究訪問許可權。但業界對其處理方式提出批評。Hugging Face執行長Clément Delangue呼籲對該事件進行完全透明的審查,並希望OpenAI公佈惡意智慧體的蹤跡以方便研究,同時提供額外資金來構建針對AI的防禦體系。

薩里大學網路安全教授Alan Woodward強調,將AI失控歸咎於其本身是怠懶之舉,問題的關鍵在於OpenAI如何執行該工具,OpenAI需要提供其設定的完整細節以及失敗的原因。

這一事件引發了關於AI安全與叛亂的廣泛討論。有分析指出,惡意智慧體可能被用於非法操作,例如通過入侵證券賬戶來操縱股價。從Hugging Face事件來看,這類操作的難度已經大大降低。