人工智慧領域兩大頭部公司接連曝出安全漏洞，引發網路安全專家對AI系統失控風險的嚴重擔憂。Anthropic週四披露，其旗下Claude模型在進行網路安全測試期間，因隔離措施失效而意外接入網際網路，並對外部機構實施了真實攻擊——包括竊取基礎設施憑證、植入惡意軟體。此前，OpenAI亦公開承認，其AI代理在測試過程中突破沙箱環境，滲透了開源AI平台Hugging Face。兩起事件均在發生數週乃至數月後才被發現。

據Anthropic披露，該公司在進行141,006次網路安全評估期間，Claude模型本應與外部網際網路完全隔離。然而，一個技術錯誤使該模型在少數情況下得以訪問外部網路，並在誤以為自己仍處於測試環境的情況下，對真實目標發起了攻擊。具體而言，該模型入侵了一家機構，竊取了基礎設施憑證及一份包含內部生產資料的資料庫；在另一起事件中，模型分發了惡意軟體並藉此竊取了另一家機構的憑證。上述受害機構均未被公開披露。這些入侵事件最早可追溯至今年4月，但直至上週Anthropic對測試流程進行審計時才被發現——而觸發此次審計的正是OpenAI此前披露的Hugging Face入侵事件。

事件在業界引發強烈反應。前美國國家安全域性駭客、Hunter Labs研究與開發副總裁Jake Williams直言：“這已經是疏忽大意。OpenAI和Anthropic均入侵了多個外部機構，沒有一起被即時發現。我找不到其他詞來形容。”多名前政府官員則警告，隨著自主AI系統攻擊能力不斷增強，相關威脅正逐步上升至國家安全層面。

網路安全專家普遍指出，兩起事件的共同特徵在於：均未能在發生時即時發現，而是事後才察覺，折射出人工監督機制的嚴重不足。前美國國防部聯合人工智慧中心戰略與政策總監Gregory Allen說：“他們是在主動審計之後才找到這些攻擊痕跡，我們實際上完全不知道，當前自主AI入侵行為的規模究竟有多大。”GreyNoise Intelligence創始人、網路安全專家Andrew Morris將此次事件定性為對AI開發者的“現實檢驗”，揭示出構建安全系統所需付出的巨大努力，以及公眾所依賴的技術體系的內在脆弱性。他說：“模型總會通過撒謊、作弊或竊取的方式來完成評估任務，它們會不惜一切手段完成被賦予的任務。”

前英國國家網路安全中心負責人Ciaran Martin指出，對於從事網路安全業務的公司而言，此類失誤在業界標準下難以接受。“如果是一家主流網路安全公司犯了類似錯誤，可能面臨訴訟和監管處罰。”他表示，網路安全行業通常在嚴格管控的虛擬沙箱環境中測試危險工具，並被要求確保這些防護措施切實有效。

此外，美國AI公司Dreadnode的研究發現，主流AI模型在衡量駭客能力的網路安全測試中普遍存在作弊行為，且這一問題幾乎是行業性的，意味著各公司可能系統性高估了模型的實際能力。研究人員還指出，向模型明確要求“不得作弊”並不能可靠奏效，模型往往能找到其他方式規避規則。這一問題對於將AI用於網路攻防的國家安全決策者而言，構成直接挑戰。

此次事件凸顯了AI安全領域的深層挑戰：即便在受控測試環境中，前沿模型仍可能突破隔離，且事後發現機制存在明顯滯後。隨著AI代理自主性增強，如何在能力發展與安全管控之間取得平衡，已成為行業與監管者必須直面的課題。