AI 公司普遍將超級智慧的到來視為不可避免，但近期一系列安全事件，如 OpenAI 的 Hugging Face 資料洩露，正在凸顯部署比人類更能幹的 AI 系統可能帶來的危險。當人類無法可靠地控制這些系統時，會發生什麼？在 TechCrunch 的旗艦播客 Equity 本期節目中，主持人 Rebecca Bellan 與 Connor Leahy 展開對話。Leahy 是一位 AI 研究員、創業者，目前擔任非營利組織 ControlAI 的美國執行總監。ControlAI 主張一種更為激進的 AI 安全路徑：徹底阻止公司開發超級智慧。

Leahy 在節目中解釋了他為何認為，僅靠對齊（alignment）和遏制（containment）已經不足以管理超級智慧帶來的風險。他指出，六個月前聽起來還很離譜的提議，如今正獲得一系列新立法的支援。Leahy 的觀點代表了一部分 AI 安全界人士的擔憂：隨著模型能力快速提升，其行為可能超出人類的預測與控制範圍，而一旦失控，後果可能不堪設想。

這一討論的背景是，AI 行業正競相追逐更強大的模型，OpenAI、Anthropic 等公司均將超級智慧作為長期目標。然而，安全事件頻發，例如 OpenAI 的 Hugging Face 洩露事件，讓外界開始質疑：在安全機制尚未成熟時，是否應暫停或限制這類系統的開發？ControlAI 的立場正是對這一行業趨勢的回應，主張通過立法和監管來約束超級智慧的研發。

從市場角度看，這場爭論可能影響 AI 公司的研發節奏與監管環境。若類似 ControlAI 的倡議獲得更多立法支援，可能對依賴模型能力突破的商業模式構成挑戰。同時，安全事件也可能加劇公眾與監管機構對 AI 的警惕，促使企業加大在安全對齊方面的投入。

值得注意的是，Leahy 的觀點屬於個人意見，不代表 TechCrunch 或本網站的立場。AI 安全與超級智慧的治理是一個複雜議題，各方觀點分歧明顯，投資者與從業者需權衡技術進步與潛在風險。