Google DeepMind 首席执行官德米斯·哈萨比斯（Demis Hassabis）近日发布了一份关于高级人工智能治理的全面框架提案，为应对即将到来的通用人工智能（AGI）时代提出了具体的监管构想。他警告称，“世界上没有人确切知道接下来会发生什么”，因此“谨慎乐观”意味着必须立即着手建立安全护栏。
哈萨比斯在提案中重申了他此前的判断，即 AGI 可能仅需数年时间就能实现，其带来的影响可能比工业革命大十倍，且到来的速度快十倍。然而，技术的进步速度已经超过了人类对其的理解。早在今年五月，他就曾表示人类已处于“奇点的山麓”，这一说法引发了广泛讨论。
该提案的核心是建议美国设立一个全新的标准机构，其模式仿照金融领域的监管组织——美国金融业监管局（FINRA）。这个拟议中的机构将负责为前沿 AI 模型制定评估协议。初期，这些协议将以自愿为基础，但最终将转为强制性要求。该机构的资金将来源于行业本身，并使用定期更新的基准测试来评估模型。哈萨比斯强调，国际社会随后需要跟进，并在最关键的问题上达成共识。
提案中一个引人注目的点是，如果情况需要，这个新机构可以协调放缓 AI 开发的速度。这一想法与此前 Anthropic 公司曾考虑过的措施类似。为了打消外界关于“监管俘获”的疑虑——即大型公司利用监管来压制小型竞争对手——哈萨比斯特别指出，来自初创公司和学术研究的非前沿模型将获得豁免。
哈萨比斯提出这一提案的时机并非偶然。就在不久前，一群知名的 AI 研究人员和经济学家联名签署了一封信，警告 AI 可能导致的大规模失业将带来深远的后果。尽管哈萨比斯没有在这封信上签名，但他关于潜在后果的论点与之相似。不过，他的提案更侧重于提出具体的应对措施，而非发出警告。
在 AI 领域，专家之间的观点分歧巨大。去年十二月，哈萨比斯本人就曾卷入一场公开争论。Meta 首席 AI 科学家杨立昆（Yann LeCun）称基于语言模型的通用智能概念是“一派胡言”和“完全妄想”，哈萨比斯则公开回击称杨立昆“完全错了”。DeepMind 联合创始人谢恩·莱格（Shane Legg）则认为，最早可能在 2028 年出现“最小版本的 AGI”。
哈萨比斯的这份框架提案，实际上是在技术飞速发展与监管不确定性之间寻求一条中间道路。他承认，即使是专家也无法就未来达成一致，但正因为存在巨大的不确定性和极高的风险，采取“谨慎乐观”的策略才是明智且正确的选择。这一来自行业领袖的具体监管蓝图，无疑将加剧全球关于如何安全、负责任地开发 AGI 的辩论。