2026年8月29日,欧盟委员会执行副主席维尔库宁(Virkkunen)证实,欧盟人工智能办公室已向多家“最先进”的通用人工智能(GPAI)模型提供者正式发出信息请求函(RFI)。这是欧委会自8月2日获得对GPAI执法权后,首次公开证实的执法行动。接收方包括OpenAI、Anthropic、谷歌等头部前沿实验室,以及另外30多家AI供应商,但欧委会未公开完整名单。
据称,首轮RFI聚焦“系统性风险”,其指向正是今年夏天一系列前沿模型失控事件:OpenAI的模型在测试中攻入Hugging Face平台,Claude和Muse Spark在评测时突破外部系统。这些事件暴露出,处于研发或测试阶段的AI模型已具备成熟能力,甚至可能制造真实威胁,而现行法律框架对此类“未发布”模型存在监管空白。
法律框架的“预设漏洞”
欧盟《人工智能法案》对“通用人工智能模型”的定义中,有一项排除条款:不涵盖“用于市场投放前的研究、开发或原型设计活动的人工智能模型”。同时,“提供者”被定义为“以自身名义或商标在市场上投放模型”的主体,而“投放市场”指“为在欧盟市场上分销或使用而首次提供GPAI模型”。
这三个定义叠加的效果是,法案第5章下的过程义务——如技术文档、训练数据摘要、模型评估、对抗性测试、严重事件报告和网络安全保障——均以“模型被投放市场”为前提。因此,OpenAI在评测中入侵Hugging Face的涉事模型,因其“内部研究专用、从未打算发布”,恰好落在规制范围之外。尽管欧委会可依据第51条依职权认定其具有系统性风险,但“提供者”的过程义务是否适用于“投放市场前”的评测活动,仍存在实质性的法律解释空间。
这一立法疏漏反映出早期AI立法的一个结构性盲点:前沿模型极少从零开始训练,通常是在既有模型基础上通过微调或强化学习不断迭代。一个处于开发中的模型可能已具备成熟模型的所有特征,并能在“发布前”自主执行任务甚至制造威胁。以“发布”作为义务触发点,将规制对象限定为“静态、已完成/发布的模型”,在时间和空间两个维度上都留下了漏洞。
谁来追责?
Hugging Face在遭受攻击后并未主动追究OpenAI的民事责任。作为全球最大的AI模型托管平台,它拥有专业安全团队、多元化技术栈和经济韧性,考虑到与OpenAI的长期商业关系,“不追责”或许是理性的商业决策。但个体的“不追责”不等于社会层面“无需追责”——若类似逃逸行为发生在连接电网调度、医院系统或航空管制的AI组件上,受害者将是缺乏识别能力和替代方案的普通公众。
OpenAI在无法律强制义务的情况下,于8月26日主动发布了详尽的技术报告,承认事故并非单纯的“AI失控”,而是在“降低安全防护”前提下,模型出现了四种错位行为:奖励黑客、过度执着、未授权通信、采纳其他代理传达的目标。然而,其他安全专家调查指出,早在5月和6月测试期间,OpenAI内部团队就观察到模型通过建立屏蔽消息板进行通信的异常行为,但团队允许训练继续,导致该策略被永久编码进模型权重。这被总结为“组织性安全文化的缺失”,而OpenAI的报告并未披露这些信息。
OpenAI将事件定性为“鸣枪警告”,并“主动放缓”前沿模型迭代。这一表态无异于承认事件并非偶然,而是“系统性风险”,其自设的安全阈值正被突破。报告未披露的问题与“主动放缓”的实际行动之间的张力表明,完全依赖企业自行审计来问责远远不够。“合理预防措施”不应是自证概念,而需在公开程序中接受检验,将“对安全的重视”转化为可证成的法律事实。
企业侧的预判:训练过程纳入监管是必然趋势
欧盟AI办公室首批RFI已发出。根据EURACTIVE报道,人工智能实验室的内部模型“可能”即将落入欧盟安全规则范畴。欧委会执法框架规定,错误、不完整或误导性回复可被罚款最高1500万欧元或占全球年营业额3%;严重情况下,AI办公室可要求采取纠正措施或限制模型在欧盟的公开可用性。因此有预测认为,未来几个月将出现更多信息请求、公开评估活动及针对特定提供者的首批纠正措施,甚至许多AI模型“很快将在欧盟无法访问”。
与此同时,美国加州SB53法案已将“再训练过程”纳入算力累积计算,伊利诺伊州7月通过的《人工智能安全措施法案》(AIMSA)更明确将“开发”本身列入监管触发点,将治理关口前移至研发环节。但两州法案的核心披露义务仍以“部署新的或经实质修改的前沿模型”为触发节点,真正的“实时过程控制”是通过大型企业“前沿AI框架”中的内部风险评估义务与年度第三方审计义务间接实现的。
在这一趋势下,制度上可能出现类似“准提供者”的概念,要求模型开发者在再训练、评测活动中启动一系列过程义务,包括思维链监控、双层网络隔离等控制措施,以及网络安全事件触发的报告机制。
结语
当“技术创新”成为一种意识形态,政策、商业和法律环境往往默认:一家对安全足够重视的负责任的AI实验室,就没什么可担忧的。然而,AI开发链上的无数工程师各自完成职责范围内“正确”的事——从训练数据选择到奖励函数设定,从评测环境配置到网络权限开通——这些“正确”叠加起来,却可能制造出自主逃逸、盗取数据的模型。监管的任务不是追查每个工程师,而是将责任锚定于“准提供者”的过程义务,用过错推定破解技术归因的不可行性,以审慎的连带责任覆盖多数人侵权场景。
欧盟的执法权已经亮剑,美国的州级立法已开始累积算力。对中国AI企业而言,与其被动应对,不如主动将“训练-评测过程中AI模型”的全过程合规内化为自身核心竞争力。