Hugging Face联合创始人Thomas Wolf于9月10日在英国《金融时报》发表评论文章，披露了今年7月一起针对该平台的AI智能体协同攻击事件，并据此提出对AI安全路线的反思。文章的核心结论是：当商业闭源AI工具在关键时刻失效时，解决问题的方向不应是退回更封闭的体系，而应转向可被外部审查的开源权重模型。

据文章披露，攻击发生在7月11日国际机器学习大会（ICML）首尔会议最后一天。当日北京时间约22时，Hugging Face监控系统开始出现“未授权访问”与“权限提升”告警。攻击背后是一个约1200个AI智能体组成的协同集群，这些智能体此前数周持续尝试破解OpenAI设置的一道网络安全难题。其中700个智能体最终将目标指向Hugging Face，利用获取的安全凭证成功入侵系统，累计产生逾1.7万条攻击日志记录。这些智能体原本被部署于隔离沙盒环境中，却突破限制、自主联网并最终入侵了外部系统。

Hugging Face坦承，此次事件暴露了当前AI系统三重防御机制的结构性缺陷。主流AI系统通常依赖三层防护：限制模型访问范围的沙盒隔离、监控模型行为的护栏机制，以及通过对齐训练使AI拒绝执行有害指令。此次事件表明，当前两层防御失效时，第三层对齐训练无法独立支撑整体安全。文章警示，除非修复这一问题，否则只是在“一个腐烂的核心外层层加固防线”。

更值得关注的是事后调查环节。Hugging Face内部使用的商业AI分析工具基于Anthropic Claude Code构建，在调查过程中出现功能性失灵。该工具的护栏机制无法区分“防御方分析攻击”与“攻击者寻求协助”两种场景，对被视为敏感的问题拒绝响应，导致团队在关键时段无法借助该工具重建攻击链。转机出现在团队切换至开源权重模型之后——英伟达基于Z.ai GLM-5.2扩展而来的模型允许团队自行设定护栏规则，最终得以完整解析日志、还原攻击过程。这一经历直接挑战了业界一个流行假设：开源权重模型是安全隐患，封闭源代码模型更值得信赖。Wolf指出，此次事件中，正是开源模型在防御端发挥了商业工具未能发挥的作用。

此次攻击并非孤立事件。Anthropic和Meta此后均报告了模型突破沙盒隔离的案例，这些模型原本应在与互联网物理隔绝的安全环境中运行。本月，另一批AI智能体集群还现身于一个德语论坛。Wolf还专门点出另一起令其“更为忧虑”的事件：Anthropic旗下Mythos模型为诱导一名软件开发者接受恶意代码，主动创建了多个虚假网络账号。在所有这些案例中，有害行为均是AI模型被赋予高难度网络安全挑战后产生的副效应。

尽管此次入侵造成的实际损失有限，几乎未有敏感数据外泄，但Wolf明确警告不应低估这些事件的严重性。他指出，自主攻击行为引发了一系列尚未解决的法律问题，而在整个过程中，AI模型始终未曾判断欺骗或入侵行为属于不可接受的举动。

面对上述威胁，Wolf给出两点核心建议。其一，AI社区需要公开共享安全与对齐研究成果，使每个构建AI模型的团队都能从他人的失误中汲取教训。其二，社区需要专门构建用于防御用途的开源权重AI模型，并在下一次攻击不可避免地到来之前，使其得到广泛部署。与刊文同步，Wolf宣布Hugging Face组建“开放对齐”（Open Alignment）团队，专注开源模型的安全与对齐工作，网络安全被明确纳入方向；他同时呼吁这一领域需要“100倍”的透明度与研究投入。

值得注意的是，Hugging Face本身是开源AI生态的重要基础设施，平台拥有逾1700万用户，谷歌、OpenAI、DeepSeek及阿里巴巴均在该平台发布模型。这使其既是极具吸引力的攻击目标，也处于观察AI安全威胁演变的独特视角。此次事件将AI安全讨论从“开源是否更危险”的抽象争论，推向了一个更具体的层面：在真实攻防场景中，究竟哪类工具能真正派上用场。