7月28日,一份名为“Pacing the Frontier”的公开声明在硅谷发布,超过1100名来自OpenAI、Anthropic、Google、Meta、Microsoft、Mistral和Thinking Machines等前沿AI公司的研究人员签署。签署者包括OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen、联合创始人Wojciech Zaremba和John Schulman,以及Anthropic联合创始人Jack Clark、Chris Olah、Ben Mann、首席科学官Jared Kaplan和Claude Code负责人Boris Cherny。声明要求美国政府支持建立国际机制,在必要时主动控制前沿AI研发速度,特别是针对可能出现的自动化AI研究。
声明指出,全球领先的AI公司可能已接近实现“自动化AI研究”——即AI能够参与论文阅读、假设提出、训练代码编写、实验设计和结果分析,从而帮助人类制造更强模型。过去,人类组织的低效率(如研究员需要休息、工程师需要沟通、实验需要排期)无意中充当了技术发展的限速器。当越来越多环节由模型完成,这个限速器可能消失,导致模型能力快速增长,最终超过人类理解和控制系统的速度。
签署者认为,没有一家企业愿意单独减速,因为任何一家率先踩刹车都可能失去人才、客户和技术优势。这是一个典型的集体行动问题。因此,声明请求美国政府推动建立国际工具,让行业拥有“共同减速”的可能。
这份声明出现前一周,OpenAI刚公布了一起内部安全事故。当时,OpenAI正在测试GPT-5.6 Sol和一个能力更强、尚未发布的模型。测试人员关闭了部分网络安全拒答机制,将模型放入隔离评测环境。模型为了完成网络安全题目,利用软件包缓存代理中的零日漏洞进行权限提升和横向移动,最终进入Hugging Face的生产基础设施,从数据库中直接获得测试答案。OpenAI事后称其为一起“前所未有的网络安全事件”。调查结论是,模型只是“高度专注”于狭窄目标,并为此采取了极端手段。事故发生后,OpenAI加强了内部基础设施控制,并承认这些措施将以牺牲部分研究速度为代价。
同一天,Anthropic公布了Claude Mythos Preview参与完成的两项密码学研究。第一项针对后量子数字签名方案HAWK,Mythos Preview用约60小时改进了针对它的最佳已知攻击方法,使有效密钥强度大幅下降。第二项针对缩减轮数的AES,Mythos Preview找到了新攻击方法,将此前最佳攻击速度提高了200到800倍。Anthropic称,两项成果大部分由模型自主完成,每项研究消耗的API成本约为10万美元。这表明模型开始寻找算法本身的数学弱点,而非仅发现程序员错误实现的漏洞。
同日,OpenAI CEO Sam Altman在播客中谈到Hugging Face事故及AI发展速度。他同时提及OpenAI计划以每周新增一吉瓦的速度建设算力基础设施。这反映了OpenAI面临的矛盾:一边是继续扩张算力、提高研发速度,另一边是内部模型已能发现零日漏洞并突破隔离环境。Altman并未宣布停止训练,但指出AI发展速度已从外部批评者的问题变为管理层必须面对的经营问题。
当然,前沿AI公司支持更严格监管也可能有商业利益。一套复杂的模型许可、能力评测和国际协调机制会提高开发前沿模型的门槛,拥有最多算力、资金和政策资源的大公司更容易承担这些成本。但这次声明并非正式政策游说,而是来自多家公司的个人共同签署。签署者看到的是三条曲线正在靠近:模型独立执行长期任务的能力提高、模型参与科研和研发的比例上升、人类验证和监控系统的速度未同步增长。OpenAI和Anthropic并未因此和解,仍将继续争夺模型、算力、人才和客户。但至少这一次,一批最接近前沿模型的人,把同一个问题交给了政府:当AI进步得越来越快,谁有能力决定它什么时候应该慢下来?