在微软与OpenAI从合作协议中移除AGI相关限制条款四个月后,马斯克、OpenAI总裁Greg Brockman和英伟达CEO黄仁勋在短短五天内先后向世界宣告:AGI已经到来。这一系列表态不仅引发行业热议,更折射出AI领域正在发生的深层变化——AGI的定义、测量乃至监管对象,可能都需要重新审视。
黄仁勋于9月6日在X平台发帖,透露GPT-6 Astra使用了超过十万套英伟达Grace Blackwell NVLink72系统进行训练,并称从ChatGPT到o1再到Astra,四年时间过去,“AGI has arrived”,同时祝贺OpenAI,并预告接下来还有40万块GPU上线。在黄仁勋的叙述中,AGI既是一项能力,也是一座需要芯片、机房、电力和资本共同搭建的基础设施。三天前,OpenAI总裁Brockman在Astra发布简报时表示,欢迎来到AGI时代,就他个人而言,AGI已经到了。再往前两天,马斯克给出了一个劳动市场标准:到2027年底,AI应该能够独立完成所有数字领域的工作,即所有无需亲手改变物理世界的任务。
这些表态的背景,是微软与OpenAI在四个月前刚刚处理掉一个长期悬而未决的合同问题。自2019年微软投资OpenAI以来,双方协议中一直存在特殊设计:AGI不仅是OpenAI的技术目标,也影响着微软能获得哪些技术、这些权利持续多久以及双方如何分钱。OpenAI对AGI的定义宽泛——一个高度自主、能够在大多数具有经济价值的工作上超过人类的系统,但关键在于谁来判断这一标准是否达到。2025年10月28日,双方修改协议,规定OpenAI若认为实现AGI,需由独立专家小组确认。AGI一旦确认,将影响微软对OpenAI底层研究成果的接触权限及收入分成。然而,2026年4月27日的新协议彻底改变了这一局面:微软对OpenAI模型和产品的许可统一持续到2032年且改为非独占,OpenAI向微软支付的收入分成统一持续到2030年,且明确与OpenAI的技术进展无关。至此,微软和OpenAI不再需要在合同中明确解决“AGI究竟是什么”的问题。
文章进一步指出,AGI的测量方式正在发生根本性转变。以Astra在ARC-AGI-3测试中的表现为例,同一套GPT-6 Astra在两种不同测试环境下得分差异巨大:在ARC Prize自己的Standard harness下为62.71%,而在OpenAI提供的Provider Adapter下达到98.55%,相差35.84个百分点。主要变化在于环境:Standard harness允许Astra留下笔记,而Provider Adapter额外保存请求间的推理状态并压缩上下文,使Astra能维持更多推理状态。在Provider Adapter条件下,Astra不仅得分大幅提升,整体运行速度还快了三倍多,token消耗减少近一半。ARC Prize此前实验显示,人类完成类似任务平均动作数远少于AI,但Astra在Provider Adapter条件下打破了这一预期,在96%的关卡中使用动作数少于人类中位数,平均少51.7%。文章认为,这35.84分的差距真正提出的问题是:能力究竟属于模型本身,还是属于整个系统?Astra的权重未变,Provider Adapter单独也无法完成任务,完整能力来自模型、记忆、状态管理和运行环境的组合。因此,评价对象正从“模型能力”转向“系统能力”。
文章借用进化生物学中的“反应规范”概念解释这一现象:同一基因型在不同环境中形成不同表型,模型权重可视为基因型,而harness、记忆、工具和上下文管理构成环境,62.71和98.55是同一套权重在两种系统条件下的能力表型。AI的测量单位随之变化,未来benchmark可能更多测系统能力而非模型能力。文章还引用哲学家Andy Clark和David Chalmers的“延展心智”理论,指出人类智能本就依赖外部工具和记忆,人类文明本身就像一套运行了几万年的Provider Adapter。当模型获得记忆和工具后,“哪些能力属于模型自己”将越来越难回答。
文章进一步提出,AGI可能通过连接逐渐形成,而非某个模型突然达到。网络科学中,节点保持原样而连接增加,当连接达到临界区域,分散的小团块可能形成贯穿系统的大型连通结构,单个节点能力未突变,整个网络却获得新性质。AI系统类似:模型获得长期记忆、浏览器、代码执行、企业数据库等权限后,系统能完成的闭环任务大增,模型分数未必变化,但系统能力已变。因此,AGI的相变可能发生在权限和连接关系上。
文章还从共生进化角度探讨人类与AI的关系:共生会改变个体边界,长期合作后依赖出现,“有对方更方便”逐渐变成“离开对方无法正常生存”。文章认为,真正的AGI可能不是机器何时替代人,而是人类组织何时无法脱离AI正常运行。Bainbridge在1983年《自动化的讽刺》中已描述过早期形态:机器越可靠,人类操作越少,技能退化,机器失败时系统将最困难的问题交给缺乏练习的人。经济力量会推动这种依赖:80%可靠的AI促使企业保留人工备用,99.99%可靠的AI则改变成本计算,企业削减冗余,员工失去技能,组织围绕自动系统重新设计。到某阶段,AGI测试的重要性可能下降——一个模型从未通过公认AGI门槛,但银行、医院、软件公司已无法脱离它运行,其社会后果巨大;反之,通过所有测试却未进入真实组织的模型,社会影响有限。
最后,文章提出监管对象可能认错的问题。1970年控制论学者Roger Conant和W. Ross Ashby的论文指出,要稳定控制复杂系统,控制者必须拥有对被控对象的准确模型。现有很多安全框架围绕模型组织,但现实AI系统越来越难用一个模型名字概括:同一权重可接入不同记忆、工具和后端,获得不同权限,实际能力不断变化。今年8月,OpenAI更新GPT-Live的System Card时发现,原先安全评估的后端配置与最终发布配置存在差异,重新评测后部分指标出现统计显著变化,模型名字未变,一处后端配置差异已足以让正式安全文件修改。Astra的网络安全评估更进一步:它处理了知识截止日期后公开的真实漏洞,利用部分已知漏洞,还发现并使用了两个此前未知的零日漏洞。这些案例表明,监管者未来需评估整套系统,问题将从“这个模型危险吗”扩展为“模型连接了哪些系统、能保存多长记忆、可调用哪些工具”等具体问题。
文章作者“小兔子斯嘉丽”来自微信公众号“文科生看AI时代”,其观点认为,AI时代的变化首先是一场测量单位的变化,过去以模型为智能单位,未来可能以系统为单位;而AGI的真正到来,或许就是人类开始离不开AI的时刻。