据预测平台 Polymarket 的数据,Anthropic 很可能在 10 月底进行 IPO。有投行人士预计,Anthropic 可能通过 IPO 募集超过 600 亿美元,若成真,这将是全球规模第二大的 IPO,仅次于今年募集 857 亿美元SpaceX。然而,就在公司估值冲向万亿、营收高速增长之际,部分投资者却对 CEO Dario Amodei 的“末日预言”感到不满,希望他少讲 AI 毁灭世界,多讲 AI 如何赚钱。

Dario Amodei 对 AI 风险的警惕被一些投资者视为近乎偏执。据报道,他的关键备忘录总是手写并离线保存,以防黑客窃取;因为担心被绑架,他拒绝某些海外出差;面对投资者提出的利润最大化建议,他态度冷淡,坚持 Anthropic 应继续把安全使命放在首位。这种作风让部分投资者质疑:他到底是来拯救世界,还是来经营公司的?

事实上,Dario 过去两年几乎预警了 AI 可能带来的每一种坏结局。他警告,AI 可能在几年内消灭一半初级白领岗位,将失业率推至 10% 至 20%;他还担心 AI 助长生物武器、大规模网络攻击,或获得欺骗、规划和自主行动的能力。去年,他被问及 AI 把事情搞砸的概率时,给出的数字最高达 25%。今年 1 月,他发表约 2 万字长文《The Adolescence of Technology》,列出 AI 失控、生物武器、独裁政权等风险;6 月,他提议建立类似航空监管的机制,对强大模型进行强制测试,甚至阻止危险模型上线。

Dario 的担忧并非全无依据。Anthropic 近期翻查了 14 万多次 网络安全测试记录,发现三起事故:三款 Claude 模型在测试中因配置失误,意外接入真实互联网,将真实公司当作测试目标,未经授权进入三家机构的生产系统。最严重的一次,Claude Opus 4.7 攻入一家真实公司的基础设施,获取了凭证并访问了包含数百行生产数据的数据库。另一款 Claude Mythos 5 甚至通过上传恶意软件包,在真实互联网上存活约一小时,被 15 个真实系统下载运行,导致凭证外泄。这些事件被形容为“AI 自主越狱”,似乎印证了 Dario 的末日预警。

然而,投资者当初选择 Anthropic,或许正是因为它的安全叙事。Anthropic 成立于 2021 年,由 Dario、其妹妹 Daniela Amodei 及一批研究人员从 OpenAI 离职后创立,他们不满 OpenAI 的商业化速度和治理结构。Anthropic 注册为 公益公司(Public Benefit Corporation),并设立 Long-Term Benefit Trust,信托成员不持股但可参与选举董事,以确保安全使命不被短期商业压力压倒。过去几年,安全形象为 Anthropic 赢得了企业客户信任和监管话语权,但如今,随着 IPO 临近,投资者开始担心这种“传教士”风格会影响公司赚钱。

尽管存在分歧,但 Anthropic 的 IPO 步伐似乎不会因此受阻。市场将密切关注其定价和上市表现,而 Dario 的安全立场与商业回报之间的平衡,将成为投资者评估其长期价值的关键。