谷歌首席科学家、深度学习先驱Jeff Dean近日在Y Combinator的访谈中,对AI发展现状与未来趋势作出系列研判。他确认,去年5月关于“AI已达初级工程师水平”的预测基本得到验证,且实际进展在某些维度超出预期。Dean指出,基于智能体的系统已能连续运行数天甚至数周,完成复杂任务,而推理硬件效率将成为AI大规模普及的核心瓶颈。他预测,若推理延迟降低50倍,将催生全新应用形态,并建议创业者聚焦上下文工程、专用领域模型及多智能体系统。此外,他对2027年作出大胆预测:机器学习系统本身将实现高度自动化,形成“用AI优化AI”的闭环。
Dean在访谈中回顾了其2025年5月的预测,表示“模型完成更复杂任务的能力增长速度比我预想的要快”,并强调智能体在编程之外的领域也开始展现能力,这将是未来重要趋势。他认为,目前市场对AI智能体能力存在认知盲点:这些系统已能连续运行数天甚至数周,而不仅仅是运行一两个小时。他举例说,自己和同事Sanjay在优化底层库性能时,通过为智能体编写“技能”,教会模型按顺序完成“测量基准—改进代码—测量性能提升—迭代”的流程,实现了高效的自动化循环。此外,模型在将软件从一种编程语言翻译成另一种语言方面已相当高效,因为原始代码本身构成清晰的规格说明。
在推理硬件方面,Dean将其定义为AI系统下一步大规模普及的核心约束。他类比2001年将Google搜索索引从硬盘迁移至内存的历史性决策,说明硬件架构跃迁对产品能力的决定性影响。Dean表示,“大家会看到越来越多高性能、低能耗的推理硬件系统”,并强调“推理是让基于智能体的系统能够普及给更多人的关键,延迟非常重要,而硬件的专用化正是提升能效、降低延迟的关键途径,比GPU或TPU这类通用计算设备更有效”。他进一步指出,当前AI系统设计中存在一个被多数创业者忽视的底层约束:将数据从加速器的HBM取到处理器进行计算,所消耗的能量是实际执行一次乘法运算的上千倍。这一差距深刻影响了批处理的必要性、系统架构设计乃至产品延迟表现。在优化方向上,他着重提到尽量减少数据搬运,以及尝试极低精度运算,将所需精度直接内建到硬件中。
Dean认为,AI进步的驱动力正从“更大的模型、更多的数据”转向模型之外的系统工程能力,包括检索、工具调用、记忆管理和智能体编排,即业界所称的“上下文工程”。他将此视为小团队的重要机会入口,因为“以前训练一个模型需要海量的资源、GPU和数据,但做上下文工程,你只需要一个类似Gemini的API接口,然后自己搭建检索系统、工具调用之类的东西就行了”。针对智能体在执行超过三四十步后容易“脱轨”的问题,他提出两类应对策略:一是为模型提供技能和提示,使其尽量停留在熟悉的操作路径上;二是采用多智能体架构,通过推理时计算搜索可行解题路径,由另一个模型或智能体对多条路径进行评估和筛选。
对于创业者,Dean提供了一套机会识别框架。他指出,通用模型正在越来越多领域持续变强,创业者必须评估自己选择的方向是否具备持续性:“你正在做的事情是不是够‘持久’——未来六个月或十二个月,前沿模型会不会就能做到这件事了?”他建议寻找当前通用模型成功率接近0%或1%的问题,而非20%,因为后者往往意味着能力正处于萌芽阶段,通用模型可能很快追平。他认为两类场景具有结构性优势:一是产品能接触到通用模型无法获取的特殊数据,如用户个人信息;二是针对极其困难的特定问题,通过训练专用小模型,以较低成本获得高精度解法。他以AlphaFold为例,说明专用模型在特定领域(如蛋白质折叠)能取得显著成效,并认为材料科学、芯片设计等领域存在类似机会。
Dean对2027年的大胆预测指向机器学习系统本身的自动化程度大幅提高,形成“用AI优化AI”的闭环。他描述的路径是:将问题拆解成子问题,在紧密的自动化实验循环中运行,再将结果整合,持续迭代出改进后的系统。他提到,加快这一循环的关键之一是构建速度更快的验证模型,并以量子化学领域案例说明:原本需要运行一整夜的密度泛函理论模拟,在用神经网络近似后速度提升了30万倍,使原本需要六个月才能完成的千万种分子构型筛选,在午饭时间内即可完成。他还提出一个思想实验:过去60年半导体行业默认晶体管必须极度可靠,但若在更高系统层面引入冗余容错机制,是否可以使用每天出错20次的晶体管来构建系统?这类对基础假设的重新审视,他认为能催生下一代突破性系统。
当被问及“当智能体能完成所有代码编写后,什么才是真正稀缺的”时,Dean给出明确答案:判断力(taste),即知道该让智能体去解决什么问题。他说,“模型未必擅长做这种判断”,未来会是人来引导大量的AI辅助计算,而“你想要模型做什么”的核心才是关键。他提出一种量化训练判断力的方式:定期写下未来12个月内可能重要的事情清单,一年后回头核验哪些真的变得重要。此外,他强调了“第一性原理”思考的价值——不纠结于问题今天是怎么解决的,而是审视问题本质,寻找能带来一到两个数量级提升的截然不同的解决思路。