Google DeepMind 執行長德米斯·哈薩比斯（Demis Hassabis）近日釋出了一份關於高階人工智慧治理的全面框架提案，為應對即將到來的通用人工智慧（AGI）時代提出了具體的監管構想。他警告稱，“世界上沒有人確切知道接下來會發生什麼”，因此“謹慎樂觀”意味著必須立即著手建立安全護欄。
哈薩比斯在提案中重申了他此前的判斷，即 AGI 可能僅需數年時間就能實現，其帶來的影響可能比工業革命大十倍，且到來的速度快十倍。然而，技術的進步速度已經超過了人類對其的理解。早在今年五月，他就曾表示人類已處於“奇點的山麓”，這一說法引發了廣泛討論。
該提案的核心是建議美國設立一個全新的標準機構，其模式仿照金融領域的監管組織——美國金融業監管局（FINRA）。這個擬議中的機構將負責為前沿 AI 模型制定評估協議。初期，這些協議將以自願為基礎，但最終將轉為強制性要求。該機構的資金將來源於行業本身，並使用定期更新的基準測試來評估模型。哈薩比斯強調，國際社會隨後需要跟進，並在最關鍵的問題上達成共識。
提案中一個引人注目的點是，如果情況需要，這個新機構可以協調放緩 AI 開發的速度。這一想法與此前 Anthropic 公司曾考慮過的措施類似。為了打消外界關於“監管俘獲”的疑慮——即大型公司利用監管來壓制小型競爭對手——哈薩比斯特別指出，來自初創公司和學術研究的非前沿模型將獲得豁免。
哈薩比斯提出這一提案的時機並非偶然。就在不久前，一群知名的 AI 研究人員和經濟學家聯名簽署了一封信，警告 AI 可能導致的大規模失業將帶來深遠的後果。儘管哈薩比斯沒有在這封信上簽名，但他關於潛在後果的論點與之相似。不過，他的提案更側重於提出具體的應對措施，而非發出警告。
在 AI 領域，專家之間的觀點分歧巨大。去年十二月，哈薩比斯本人就曾捲入一場公開爭論。Meta 首席 AI 科學家楊立昆（Yann LeCun）稱基於語言模型的通用智慧概念是“一派胡言”和“完全妄想”，哈薩比斯則公開回擊稱楊立昆“完全錯了”。DeepMind 聯合創始人謝恩·萊格（Shane Legg）則認為，最早可能在 2028 年出現“最小版本的 AGI”。
哈薩比斯的這份框架提案，實際上是在技術飛速發展與監管不確定性之間尋求一條中間道路。他承認，即使是專家也無法就未來達成一致，但正因為存在巨大的不確定性和極高的風險，採取“謹慎樂觀”的策略才是明智且正確的選擇。這一來自行業領袖的具體監管藍圖，無疑將加劇全球關於如何安全、負責任地開發 AGI 的辯論。