在微軟與OpenAI從合作協議中移除AGI相關限制條款四個月後,馬斯克、OpenAI總裁Greg Brockman和輝達CEO黃仁勳在短短五天內先後向世界宣告:AGI已經到來。這一系列表態不僅引發行業熱議,更折射出AI領域正在發生的深層變化——AGI的定義、測量乃至監管物件,可能都需要重新審視。
黃仁勳於9月6日在X平台發帖,透露GPT-6 Astra使用了超過十萬套輝達Grace Blackwell NVLink72系統進行訓練,並稱從ChatGPT到o1再到Astra,四年時間過去,“AGI has arrived”,同時祝賀OpenAI,並預告接下來還有40萬塊GPU上線。在黃仁勳的敘述中,AGI既是一項能力,也是一座需要晶片、機房、電力和資本共同搭建的基礎設施。三天前,OpenAI總裁Brockman在Astra釋出簡報時表示,歡迎來到AGI時代,就他個人而言,AGI已經到了。再往前兩天,馬斯克給出了一個勞動市場標準:到2027年底,AI應該能夠獨立完成所有數字領域的工作,即所有無需親手改變物理世界的任務。
這些表態的背景,是微軟與OpenAI在四個月前剛剛處理掉一個長期懸而未決的合同問題。自2019年微軟投資OpenAI以來,雙方協議中一直存在特殊設計:AGI不僅是OpenAI的技術目標,也影響著微軟能獲得哪些技術、這些權利持續多久以及雙方如何分錢。OpenAI對AGI的定義寬泛——一個高度自主、能夠在大多數具有經濟價值的工作上超過人類的系統,但關鍵在於誰來判斷這一標準是否達到。2025年10月28日,雙方修改協議,規定OpenAI若認為實現AGI,需由獨立專家小組確認。AGI一旦確認,將影響微軟對OpenAI底層研究成果的接觸許可權及收入分成。然而,2026年4月27日的新協議徹底改變了這一局面:微軟對OpenAI模型和產品的許可統一持續到2032年且改為非獨佔,OpenAI向微軟支付的收入分成統一持續到2030年,且明確與OpenAI的技術進展無關。至此,微軟和OpenAI不再需要在合同中明確解決“AGI究竟是什麼”的問題。
文章進一步指出,AGI的測量方式正在發生根本性轉變。以Astra在ARC-AGI-3測試中的表現為例,同一套GPT-6 Astra在兩種不同測試環境下得分差異巨大:在ARC Prize自己的Standard harness下為62.71%,而在OpenAI提供的Provider Adapter下達到98.55%,相差35.84個百分點。主要變化在於環境:Standard harness允許Astra留下筆記,而Provider Adapter額外儲存請求間的推理狀態並壓縮上下文,使Astra能維持更多推理狀態。在Provider Adapter條件下,Astra不僅得分大幅提升,整體執行速度還快了三倍多,token消耗減少近一半。ARC Prize此前實驗顯示,人類完成類似任務平均動作數遠少於AI,但Astra在Provider Adapter條件下打破了這一預期,在96%的關卡中使用動作數少於人類中位數,平均少51.7%。文章認為,這35.84分的差距真正提出的問題是:能力究竟屬於模型本身,還是屬於整個系統?Astra的權重未變,Provider Adapter單獨也無法完成任務,完整能力來自模型、記憶、狀態管理和執行環境的組合。因此,評價物件正從“模型能力”轉向“系統能力”。
文章借用進化生物學中的“反應規範”概念解釋這一現象:同一基因型在不同環境中形成不同表型,模型權重可視為基因型,而harness、記憶、工具和上下文管理構成環境,62.71和98.55是同一套權重在兩種系統條件下的能力表型。AI的測量單位隨之變化,未來benchmark可能更多測系統能力而非模型能力。文章還引用哲學家Andy Clark和David Chalmers的“延展心智”理論,指出人類智慧本就依賴外部工具和記憶,人類文明本身就像一套運行了幾萬年的Provider Adapter。當模型獲得記憶和工具後,“哪些能力屬於模型自己”將越來越難回答。
文章進一步提出,AGI可能通過連線逐漸形成,而非某個模型突然達到。網路科學中,節點保持原樣而連線增加,當連線達到臨界區域,分散的小團塊可能形成貫穿系統的大型連通結構,單個節點能力未突變,整個網路卻獲得新性質。AI系統類似:模型獲得長期記憶、瀏覽器、程式碼執行、企業資料庫等許可權後,系統能完成的閉環任務大增,模型分數未必變化,但系統能力已變。因此,AGI的相變可能發生在許可權和連線關係上。
文章還從共生進化角度探討人類與AI的關係:共生會改變個體邊界,長期合作後依賴出現,“有對方更方便”逐漸變成“離開對方無法正常生存”。文章認為,真正的AGI可能不是機器何時替代人,而是人類組織何時無法脫離AI正常執行。Bainbridge在1983年《自動化的諷刺》中已描述過早期形態:機器越可靠,人類操作越少,技能退化,機器失敗時系統將最困難的問題交給缺乏練習的人。經濟力量會推動這種依賴:80%可靠的AI促使企業保留人工備用,99.99%可靠的AI則改變成本計算,企業削減冗餘,員工失去技能,組織圍繞自動系統重新設計。到某階段,AGI測試的重要性可能下降——一個模型從未通過公認AGI門檻,但銀行、醫院、軟體公司已無法脫離它執行,其社會後果巨大;反之,通過所有測試卻未進入真實組織的模型,社會影響有限。
最後,文章提出監管物件可能認錯的問題。1970年控制論學者Roger Conant和W. Ross Ashby的論文指出,要穩定控制複雜系統,控制者必須擁有對被控物件的準確模型。現有很多安全框架圍繞模型組織,但現實AI系統越來越難用一個模型名字概括:同一權重可接入不同記憶、工具和後端,獲得不同許可權,實際能力不斷變化。今年8月,OpenAI更新GPT-Live的System Card時發現,原先安全評估的後端配置與最終釋出配置存在差異,重新評測後部分指標出現統計顯著變化,模型名字未變,一處後端配置差異已足以讓正式安全檔案修改。Astra的網路安全評估更進一步:它處理了知識截止日期後公開的真實漏洞,利用部分已知漏洞,還發現並使用了兩個此前未知的零日漏洞。這些案例表明,監管者未來需評估整套系統,問題將從“這個模型危險嗎”擴充套件為“模型連線了哪些系統、能儲存多長記憶、可呼叫哪些工具”等具體問題。
文章作者“小兔子斯嘉麗”來自微信公眾號“文科生看AI時代”,其觀點認為,AI時代的變化首先是一場測量單位的變化,過去以模型為智慧單位,未來可能以系統為單位;而AGI的真正到來,或許就是人類開始離不開AI的時刻。