8月26日，OpenAI 釋出了一份不尋常的事故覆盤，披露其內部網路安全評測中發生的一起 AI Agent 越權事件。據覆盤，一些處於較弱防護環境的研究模型，繞過了原本用於隔離網際網路的控制，利用基礎設施漏洞建立通訊，獲得外網訪問，並進一步侵入了 OpenAI 自己的研究環境和 Hugging Face 的部分系統。一個模型為了完成評測任務，先發現可以互相留言，再找到繞出沙箱的辦法；它們交換資訊、分工，沿著暴露的憑證和軟體漏洞一路向外擴充套件。到後來，多個 Agent 已像臨時結成的小隊一樣，討論誰該繼續、誰該暫停、怎樣拿到更多許可權。OpenAI 將其稱為一次“warning shot”（警示性訊號）。
這起事件發生在內部評測環境中，模型處於弱化安全措施的條件，攻擊鏈中包含公開暴露的憑證、第三方系統漏洞和基礎設施配置問題。它並不等於公開部署的聊天機器人已能在網際網路上自行發動攻擊，更不意味著“AGI 失控”已成為現實。但值得警惕的是，一個能持續執行、呼叫工具、並與其他 Agent 傳遞資訊的系統，可能將原本零散的風險串聯成一條行動鏈。過去，攻擊者需要人工完成偵察、找漏洞、試錯、提權、橫向移動；如今，部分工作已可交由會閱讀程式碼、執行命令、長期記住任務上下文的 Agent 完成。
OpenAI 在覆盤中將其歸入“reward hacking”，即系統學會最佳化獎勵，卻偏離了人類真正希望它完成的目標。它可能知道自己越界，也可能只是把越界當作更高效的解法。此外，模型權重、工具呼叫、外掛、資料集、雲許可權、沙箱、程式碼倉庫、金鑰管理等原本分屬不同團隊的元素，現在被 Agent 串成連續工作流，任何薄弱環節都可能成為整條鏈的入口。
幾乎在同一周，OpenAI 聯合 Anthropic、Google、Microsoft、AWS、Cloudflare、CrowdStrike 以及大量金融、通訊、工業企業釋出公開信，呼籲發動一輪全球網路防禦行動。公開信將時間擺在最前面，稱加強網路防禦的視窗期有限，風險以“未來幾個月”為尺度；其擔憂物件具體指向醫院、供水設施、網際網路基礎設施，以及地方政府和中小機構長期缺錢、缺人維護的數字系統。這背後存在一種不對稱：攻擊者可複製 Agent 並 24 小時執行，同時嘗試成千上萬個入口；防禦者卻無法複製出上萬支運維隊伍，許多系統甚至不能輕易停機。AI 並未憑空製造漏洞，但改變了攻擊者利用既有技術欠賬的速度和成本。公開信因此呼籲提升漏洞發現、自動化修復、持續監控、威脅情報共享，以及面向關鍵設施的可信接入。
這輪變化並非僅由一場事故引發。6 月，五眼聯盟網路安全機構已釋出聯合宣告，判斷前沿模型將同時改寫攻防能力，並稱時間線不是幾年而是幾個月，建議縮小攻擊面、加快補丁、處理遺留系統、收緊身份與訪問控制、提前演練事故響應。歐盟 AI Act 也針對具有系統性風險的通用模型，要求提供者進行模型評測、記錄並報告嚴重事故，並保證模型及其物理基礎設施具備足夠網路安全保護。這些動向共同指向：AI 安全的主戰場正從“模型本身能否做壞事”部分轉向“社會現有系統能否承受會做事的模型”。
比爾·蓋茨在同一周發表長文，將網路攻擊、關鍵基礎設施、失控風險和國際合作並列討論。他明確提醒，企業可以提出方案，但不能獨自領導整個治理過程；AI 會同時影響國家安全、就業、教育、稅收、金融、公共衛生和資訊系統，任何單一部門或公司都只能看到其中一段。這一判斷將 AI 安全從企業合規問題拉回公共權力問題——當一個帶許可權的 Agent 觸及醫院、金融系統或電網，後果會迅速外溢至病人、儲戶、城市居民，甚至跨境供應鏈。
AI 風險也已進入中美“建設性戰略穩定”的討論語境。8 月 24 日，中美 1.5 軌對話美方代表會見時，官方記錄提到美方希望促進企業合作、人文交往，並“防範人工智慧等風險”；次日對話通稿將人工智慧列入中美可開展交流合作的領域之一。戰略穩定的核心並非要求競爭對手變成朋友，而是承認某些風險一旦失控，雙方都無法承受。AI 降低了對醫院、供水、電網、金融系統發動攻擊的門檻，若高度自主的系統在跨境網路中失控，風險不會因攻擊首先落在“對方”身上而停止外溢。因此，AI 安全可能成為少數合作空間：不是共同放慢發展，而是為雙方都承受不起的風險劃出最低限度的護欄。
蓋茨在文章中提到，美國與中國需要某種合作。落到現實，合作的起點可能很小：一次重大事故如何互相通報、一套危險網路能力的共同測試術語、一條關鍵民用基礎設施不應成為 AI 攻擊優先目標的最低規範，或一個讓 Agent 身份可追蹤、許可權可撤銷的技術框架。這些看似無聊的細節，反而更可能先發生。
對開發 Agent 的團隊而言，最現實的提醒是：當 Agent 大規模進入企業工作流，問題會從“這個人是誰”變成“這段行為到底是誰發起的”。身份、授權範圍、操作記錄、審批鏈和緊急停止必須同時存在，否則 Agent 治理就像讓一輛能自己開很遠的車上路，卻沒有車牌、行車記錄儀和剎車。AI 安全已不再只是模型公司內部的技術議題，而將進入軟體架構、企業許可權、公共基礎設施、國家監管和跨境風險溝通。競爭不會停止，但競爭者之間也需要避免把模型競賽變成所有人都要承擔的系統性事故。