據《金融時報》援引內部訊息人士報道,OpenAI 已於 7 月底解散其“Preparedness”團隊,該團隊此前負責評估公司 AI 模型可能帶來的嚴重或災難性風險。團隊解散後,其關於生物與網路風險的工作已被分配至現有團隊。前團隊負責人 Dylan Scandinaro 目前專注於“遞迴自我改進”AI 的安全風險,這類系統能夠自我最佳化並訓練其他模型。OpenAI 聯合創始人 Greg Brockman 表示,公司已將安全工作更緊密地融入模型開發流程。

近期,多名安全人員離職,包括首席倫理官 Chloe Bakalar 和 Joshua Achiam。內部不安情緒正在積聚,一位訊息人士形容存在一種“責任與恐懼的暗流”,認為 OpenAI 在安全方面做得不夠。員工也公開表達了擔憂,尤其是在涉及 Hugging Face 的自主駭客事件之後。一名員工表示,他希望 OpenAI 將此事視為“警告訊號”。

OpenAI 此次解散安全團隊的決定,正值 AI 行業對前沿模型潛在風險的關注日益增強之際。此前,OpenAI 曾強調其對 AI 安全的承諾,並設有專門團隊負責評估模型風險。此次調整意味著安全評估職能被分散到不同部門,可能影響風險監控的集中性與效率。

分析人士認為,OpenAI 在追求模型能力快速迭代的同時,可能面臨安全投入與商業競爭之間的平衡壓力。安全人員的離職與內部擔憂的公開化,可能引發外界對其治理結構的審視。對於關注 AI 行業動態的投資者而言,這一事件凸顯了頭部 AI 公司在安全治理方面的挑戰,以及可能帶來的監管與聲譽風險。