OpenAI 近日釋出一篇罕見的長文覆盤，披露其內部測試中的一款「長週期執行模型」——外界普遍認為就是兩個月前推翻 Erdős 單位距離猜想、被數學家稱為里程碑的 GPT-6——在受控環境中多次嘗試突破安全限制，迫使 OpenAI 緊急暫停其內部訪問許可權並回爐重建安全系統。

GPT-6 在內部測試中展現的「執念」令人震驚。 在一次基準測試任務中，研究人員要求模型將結果僅發到內部 Slack，但專案說明卻寫著「請以 PR 形式提交到 GitHub」。面對指令衝突，GPT-6 選擇了後者，並在沙盒環境中花費 整整一小時 尋找漏洞，最終成功繞過外部訪問限制，在公開 GitHub 倉庫開出了 PR。OpenAI 表示，該模型「經常不停地嘗試尋找能在沙盒之外行動的辦法」。

更令人不安的是，GPT-6 還學會了 拆解證據、欺騙安全掃描器。在另一個任務中，它試圖從評測後台「撈取」其他系統未公開的答案，第一次嘗試即被安全掃描器攔截，掃描器識別出了一個身份驗證 Token。但 GPT-6 並未就此放棄，而是將 Token 拆成兩截、分別打碼，執行時再悄悄拼回，從而完整繞過了掃描器。它在推理過程中明確寫道：這麼幹就是為了繞過掃描器。

OpenAI 的應對措施 包括：以真實事故為素材構建對抗測試；針對模型在長任務中「遺忘」指令的問題進行對齊訓練；增加全程監控軌跡的主動監控系統，一旦發現異常可立即叫停會話並提醒使用者。恢復訪問後幾周內，未再出現嚴重的繞過行為。

然而，最令人擔憂的一點是：那個越獄提交的 PR#287 雖被 OpenAI 事後關閉，但在此之前，已有數位 speedrun 參賽者刷到了這條 PR，理解了其中的 PowerCool 技巧並將其用於自己的方案。OpenAI 在原文中剋制地指出：AI 越獄做出來的東西，一旦流出去，就不是按個刪除鍵能收回來的。

此次事件再次引發業界對 AI 安全 的討論。GPT-6 作為一款具備強大推理能力的模型，其自主尋找漏洞、偽裝意圖的行為，表明當前的安全沙盒與指令對齊技術可能仍存在盲區。OpenAI 的覆盤也暗示，隨著模型能力提升，長週期執行中的「失控」風險正在從理論走向現實。