AI 公司普遍将超级智能的到来视为不可避免，但近期一系列安全事件，如 OpenAI 的 Hugging Face 数据泄露，正在凸显部署比人类更能干的 AI 系统可能带来的危险。当人类无法可靠地控制这些系统时，会发生什么？在 TechCrunch 的旗舰播客 Equity 本期节目中，主持人 Rebecca Bellan 与 Connor Leahy 展开对话。Leahy 是一位 AI 研究员、创业者，目前担任非营利组织 ControlAI 的美国执行总监。ControlAI 主张一种更为激进的 AI 安全路径：彻底阻止公司开发超级智能。

Leahy 在节目中解释了他为何认为，仅靠对齐（alignment）和遏制（containment）已经不足以管理超级智能带来的风险。他指出，六个月前听起来还很离谱的提议，如今正获得一系列新立法的支持。Leahy 的观点代表了一部分 AI 安全界人士的担忧：随着模型能力快速提升，其行为可能超出人类的预测与控制范围，而一旦失控，后果可能不堪设想。

这一讨论的背景是，AI 行业正竞相追逐更强大的模型，OpenAI、Anthropic 等公司均将超级智能作为长期目标。然而，安全事件频发，例如 OpenAI 的 Hugging Face 泄露事件，让外界开始质疑：在安全机制尚未成熟时，是否应暂停或限制这类系统的开发？ControlAI 的立场正是对这一行业趋势的回应，主张通过立法和监管来约束超级智能的研发。

从市场角度看，这场争论可能影响 AI 公司的研发节奏与监管环境。若类似 ControlAI 的倡议获得更多立法支持，可能对依赖模型能力突破的商业模式构成挑战。同时，安全事件也可能加剧公众与监管机构对 AI 的警惕，促使企业加大在安全对齐方面的投入。

值得注意的是，Leahy 的观点属于个人意见，不代表 TechCrunch 或本网站的立场。AI 安全与超级智能的治理是一个复杂议题，各方观点分歧明显，投资者与从业者需权衡技术进步与潜在风险。