谷歌首席科學家、深度學習先驅Jeff Dean近日在Y Combinator的訪談中,對AI發展現狀與未來趨勢作出系列研判。他確認,去年5月關於“AI已達初級工程師水平”的預測基本得到驗證,且實際進展在某些維度超出預期。Dean指出,基於智慧體的系統已能連續執行數天甚至數週,完成複雜任務,而推理硬體效率將成為AI大規模普及的核心瓶頸。他預測,若推理延遲降低50倍,將催生全新應用形態,並建議創業者聚焦上下文工程、專用領域模型及多智慧體系統。此外,他對2027年作出大膽預測:機器學習系統本身將實現高度自動化,形成“用AI最佳化AI”的閉環。

Dean在訪談中回顧了其2025年5月的預測,表示“模型完成更復雜任務的能力增長速度比我預想的要快”,並強調智慧體在程式設計之外的領域也開始展現能力,這將是未來重要趨勢。他認為,目前市場對AI智慧體能力存在認知盲點:這些系統已能連續執行數天甚至數週,而不僅僅是執行一兩個小時。他舉例說,自己和同事Sanjay在最佳化底層庫效能時,通過為智慧體編寫“技能”,教會模型按順序完成“測量基準—改進程式碼—測量效能提升—迭代”的流程,實現了高效的自動化迴圈。此外,模型在將軟體從一種程式語言翻譯成另一種語言方面已相當高效,因為原始程式碼本身構成清晰的規格說明。

在推理硬體方面,Dean將其定義為AI系統下一步大規模普及的核心約束。他類比2001年將Google搜尋索引從硬碟遷移至記憶體的歷史性決策,說明硬體架構躍遷對產品能力的決定性影響。Dean表示,“大家會看到越來越多高效能、低能耗的推理硬體系統”,並強調“推理是讓基於智慧體的系統能夠普及給更多人的關鍵,延遲非常重要,而硬體的專用化正是提升能效、降低延遲的關鍵途徑,比GPU或TPU這類通用計算裝置更有效”。他進一步指出,當前AI系統設計中存在一個被多數創業者忽視的底層約束:將資料從加速器的HBM取到處理器進行計算,所消耗的能量是實際執行一次乘法運算的上千倍。這一差距深刻影響了批處理的必要性、系統架構設計乃至產品延遲表現。在最佳化方向上,他著重提到儘量減少資料搬運,以及嘗試極低精度運算,將所需精度直接內建到硬體中。

Dean認為,AI進步的驅動力正從“更大的模型、更多的資料”轉向模型之外的系統工程能力,包括檢索、工具呼叫、記憶管理和智慧體編排,即業界所稱的“上下文工程”。他將此視為小團隊的重要機會入口,因為“以前訓練一個模型需要海量的資源、GPU和資料,但做上下文工程,你只需要一個類似Gemini的API介面,然後自己搭建檢索系統、工具呼叫之類的東西就行了”。針對智慧體在執行超過三四十步後容易“脫軌”的問題,他提出兩類應對策略:一是為模型提供技能和提示,使其儘量停留在熟悉的操作路徑上;二是採用多智慧體架構,通過推理時計算搜尋可行解題路徑,由另一個模型或智慧體對多條路徑進行評估和篩選。

對於創業者,Dean提供了一套機會識別框架。他指出,通用模型正在越來越多領域持續變強,創業者必須評估自己選擇的方向是否具備持續性:“你正在做的事情是不是夠‘持久’——未來六個月或十二個月,前沿模型會不會就能做到這件事了?”他建議尋找當前通用模型成功率接近0%或1%的問題,而非20%,因為後者往往意味著能力正處於萌芽階段,通用模型可能很快追平。他認為兩類場景具有結構性優勢:一是產品能接觸到通用模型無法獲取的特殊資料,如使用者個人資訊;二是針對極其困難的特定問題,通過訓練專用小模型,以較低成本獲得高精度解法。他以AlphaFold為例,說明專用模型在特定領域(如蛋白質摺疊)能取得顯著成效,並認為材料科學、晶片設計等領域存在類似機會。

Dean對2027年的大膽預測指向機器學習系統本身的自動化程度大幅提高,形成“用AI最佳化AI”的閉環。他描述的路徑是:將問題拆解成子問題,在緊密的自動化實驗迴圈中執行,再將結果整合,持續迭代出改進後的系統。他提到,加快這一迴圈的關鍵之一是構建速度更快的驗證模型,並以量子化學領域案例說明:原本需要執行一整夜的密度泛函理論模擬,在用神經網路近似後速度提升了30萬倍,使原本需要六個月才能完成的千萬種分子構型篩選,在午飯時間內即可完成。他還提出一個思想實驗:過去60年半導體行業預設電晶體必須極度可靠,但若在更高系統層面引入冗餘容錯機制,是否可以使用每天出錯20次的電晶體來構建系統?這類對基礎假設的重新審視,他認為能催生下一代突破性系統。

當被問及“當智慧體能完成所有程式碼編寫後,什麼才是真正稀缺的”時,Dean給出明確答案:判斷力(taste),即知道該讓智慧體去解決什麼問題。他說,“模型未必擅長做這種判斷”,未來會是人來引導大量的AI輔助計算,而“你想要模型做什麼”的核心才是關鍵。他提出一種量化訓練判斷力的方式:定期寫下未來12個月內可能重要的事情清單,一年後回頭核驗哪些真的變得重要。此外,他強調了“第一性原理”思考的價值——不糾結於問題今天是怎麼解決的,而是審視問題本質,尋找能帶來一到兩個數量級提升的截然不同的解決思路。