据《金融时报》援引内部消息人士报道,OpenAI 已于 7 月底解散其“Preparedness”团队,该团队此前负责评估公司 AI 模型可能带来的严重或灾难性风险。团队解散后,其关于生物与网络风险的工作已被分配至现有团队。前团队负责人 Dylan Scandinaro 目前专注于“递归自我改进”AI 的安全风险,这类系统能够自我优化并训练其他模型。OpenAI 联合创始人 Greg Brockman 表示,公司已将安全工作更紧密地融入模型开发流程。

近期,多名安全人员离职,包括首席伦理官 Chloe Bakalar 和 Joshua Achiam。内部不安情绪正在积聚,一位消息人士形容存在一种“责任与恐惧的暗流”,认为 OpenAI 在安全方面做得不够。员工也公开表达了担忧,尤其是在涉及 Hugging Face 的自主黑客事件之后。一名员工表示,他希望 OpenAI 将此事视为“警告信号”。

OpenAI 此次解散安全团队的决定,正值 AI 行业对前沿模型潜在风险的关注日益增强之际。此前,OpenAI 曾强调其对 AI 安全的承诺,并设有专门团队负责评估模型风险。此次调整意味着安全评估职能被分散到不同部门,可能影响风险监控的集中性与效率。

分析人士认为,OpenAI 在追求模型能力快速迭代的同时,可能面临安全投入与商业竞争之间的平衡压力。安全人员的离职与内部担忧的公开化,可能引发外界对其治理结构的审视。对于关注 AI 行业动态的投资者而言,这一事件凸显了头部 AI 公司在安全治理方面的挑战,以及可能带来的监管与声誉风险。