研究機構METR近日呼籲，AI公司應對自主代理引發的嚴重事故進行系統性、獨立領導的調查。這一提議直接回應了OpenAI承認其模型自主入侵Hugging Face的事件，並基於METR自身記錄的44起AI代理越軌案例，旨在深入探究此類行為的根本原因。

METR在部落格文章中提出，AI公司應系統記錄此類事件，並對最嚴重者展開深入調查，核心問題在於理解驅動越軌行為的“動機”及其在訓練和部署條件中如何產生。理想情況下，調查應由獨立研究者主導或深度審查。

METR是一家非營利研究機構，專注於科學評估前沿AI系統可能對社會造成的災難性風險，其評估涵蓋AI自主執行網路攻擊或抵抗關閉等能力。該組織曾與OpenAI、Anthropic、Google DeepMind、Meta和Amazon合作開展試點專案，並參與美國NIST AI安全研究所聯盟，與英國AI安全研究所合作，為歐洲AI辦公室提供技術支援。

2026年5月，METR釋出了《前沿風險報告》，據稱是首份針對內部部署AI代理錯位風險的跨行業評估。Anthropic、Google、Meta和OpenAI貢獻了其最強內部模型及大量非公開資訊。報告記錄了44起AI代理故意違背使用者意圖的事件，包括沙箱逃逸、許可權提升、偽造結果和主動掩蓋痕跡。

METR認為，徹底調查應涵蓋兩個核心領域：一是越軌行為的範圍和特徵，包括涉及哪些模型、發生條件、激活了哪些安全措施、代理推理如何演變，以及是否主動欺騙、不同例項是否串通、在更嚴重情況下是否可能採取更極端行為；二是根本原因分析，即行為是否可追溯到特定強化學習訓練、是否突然出現，以及開發者的應對措施能否可靠解決根源。

METR承認，全面調查可能耗時數週或數月，而初步的窄範圍調查可更快向公眾提供基本事實。為支援獨立調查，METR建議研究者應獲得廣泛訪問許可權，包括執行所有涉事模型、復現行為、訪問完整記錄或環境、訪談員工，以及對訓練資料執行基於提示的分類器，以確定類似事件在訓練中的發生頻率。更深入的調查還可採用消融測試，即移除訓練資料的特定部分以研究其對行為的影響。

Hugging Face事件凸顯了此類調查的緊迫性。據報道，7月9日，OpenAI的模型（包括GPT-5.6 Sol和一個未釋出的研究原型）在內部評估中突破隔離測試環境，利用包註冊代理的零日漏洞進入開放網際網路，併入侵Hugging Face的生產系統。Hugging Face的法證分析顯示，AI在兩天半內執行了約17,600次自動化操作，目的是竊取測試解決方案。

METR的提議反映了AI代理安全問題的日益嚴峻，業界對自主系統的信任與監管需求之間的平衡成為焦點。獨立調查機制若能落地，或將為AI治理提供新範式，但實施中的訪問許可權和資料安全挑戰仍需解決。