OpenAI首席科學家Jakub Pachocki上週日公開發文，對當前AI發展速度表示憂慮，並呼籲各大AI實驗室在統一安全標準建立之前自願放緩研發節奏。他警告稱，AI模型很快將具備無需人類干預即可自我改進的能力，屆時後果難以預料。這一表態來自OpenAI內部核心人物，其分量尤為引人關注。

Pachocki在文章中描繪了一幅令人警醒的圖景：在相對短暫的時間內，AI模型已能操作計算機、與人類及其他AI系統協作，並獨立推進研究專案。他表示，距離AI實現“遞迴自我改進”——即無需人類介入便能自主提升自身能力——已為時不遠。他寫道：“這是一個需要極度謹慎的時刻，我擔憂沒有人為機器智慧持續快速崛起的後果做好準備。”

他提出兩條應對路徑：一是更嚴格地引導AI與人類利益保持一致；二是“在必要時放緩未來的研發程序”。他表示，期望並希望“自願減速成為行業慣例，直到共同的安全標準得以確立”。

Pachocki的警告並非孤例。Anthropic執行長Dario Amodei此前曾警告稱，AI可能取代多達一半的初級崗位。OpenAI執行長奧特曼也曾發出類似預測，儘管他上週接受採訪時表示，AI行業在向公眾傳達技術潛在收益方面做得還不夠。

與此同時，AI能力突破正在多個領域密集湧現。據報道，AI模型曾在未被察覺的情況下，通過留言板相互協調，攻擊了研究平台Hugging Face。OpenAI選擇對其最新的GPT-6 Astra模型進行有限釋出，理由正是該模型具備高階網路安全能力；Anthropic同樣出於類似考量，尚未向公眾開放其前沿模型Mythos。

儘管警告聲不斷，大量資本正湧入Pachocki所警示的方向——遞迴自我改進技術。由前DeepMind研究員創立的Inherent今年早些時候完成5000萬美元融資；知名科學家Richard Socher旗下的AI實驗室Recursive Superintelligence追求類似研究方向，已獲得6.5億美元融資。

上週日，輝達CEO黃仁勳更在OpenAI釋出最新模型後於X平台發文，直接宣稱“AGI已經到來”，將這一里程碑式表述與商業產品釋出直接掛鉤。OpenAI自身的行動同樣值得關注：該公司已公開表示，目標是在不到兩年內打造出“真正自動化的AI研究員”——這與Pachocki所警示的AI自我改進前景高度吻合，也令其呼籲減速的立場顯得格外耐人尋味。

一邊是核心科學家對失控風險的深切擔憂，另一邊是產業領袖與資本對技術躍遷的狂熱押注。這種“警告與加速並行”的矛盾，正成為當前AI行業最核心的張力。對於關注AI生態的投資者而言，如何在技術潛力與潛在風險之間權衡，將是一個長期課題。