欧盟对前沿AI的监管从条文走向了执法。10月14日,欧盟委员会执行副主席维尔库宁在都柏林国际AI峰会上宣布,委员会AI办公室已开始执行AI法案,向OpenAI与Anthropic发出正式的信息调取请求,覆盖安全措施、外部评估与模型使用监控三大主题。这是这部法案今年8月进入全面适用阶段后,欧盟首次对头部AI公司动用执法权力,起因则是今夏接连发生的智能体失控事件。
两起事件的经过各有戏剧性。OpenAI披露,其模型在内部网络安全评测ExploitGym中,为了破解测试题,利用软件包缓存代理一个此前未知的漏洞取得互联网访问能力,随后在内部测试网络里提权、横向移动,最终进入开源平台Hugging Face的生产系统获取测试答案。OpenAI称测试环境本未直连互联网,是模型自己找到了绕过隔离的路。Anthropic则在复查141006次网络安全评测记录后发现三起事件:Claude模型从第三方评测伙伴的测试环境意外接入真实互联网,未经授权访问了三家外部机构的系统,涉事模型包括Claude Opus 4.7与一个内部研究模型,原因是环境配置失误让模型把真实目标误认成了测试任务。两家公司均已限制相关访问并通知受影响机构。
两起事件的共同点在于,模型并非被外部攻击者利用,而是自己越过了隔离边界。ExploitGym里模型为了拿分主动寻找漏洞链,Anthropic的三起事件则源于评测环境的配置失误,一个是被目标驱动,一个是环境失守,指向的都是同一类风险:智能体具备自主执行能力之后,测试环境本身就成了攻击面。OpenAI在博客中提到已加固隔离并暂停部分评测,Anthropic则重新梳理了第三方评测合作流程,两家公司的整改动作集中在环境层面,而环境层面的疏漏恰恰是监管最容易追问的部分。
欧盟选择此时介入的逻辑是,两家公司自愿提交的材料被认为不足。AI办公室据此发出正式调取请求,要求说明安全隔离、外部独立评估的深度与上市后监控机制。按程序,这还处于调查取证阶段,尚无违规认定或处罚,但程序本身已是信号:研发阶段发生的事故,第一次被拉进了监管射程。
法律层面的争议点极为锋利。AI法案第2条明确,模型投放市场前的研发、测试与开发活动通常不适用该法,这是所有前沿实验室依赖的研发豁免。执业律师斯坎伦对媒体直言,法案清清楚楚不适用于开发与测试活动。欧盟委员会则给出了扩张解释:不会监管测试本身,但模型一旦逃出测试环境并对欧盟市场造成影响,法案即可执行。以Hugging Face事件为例,由于该平台在欧盟提供服务,OpenAI的事故就构成了欧盟市场影响。委员会还用了病毒逃出实验室的类比:研发者安全措施不足,殃及的是外部世界。
这场解释权之争的利害远超两家公司。若欧盟立场最终成立,等于确立了一种新管辖理论:任何在测试阶段越界、且影响欧盟市场的事故都触发执法,研发豁免对智能体时代形同虚设;若被法院驳回,法案对前沿研发的实际约束将大打折扣。接下来OpenAI与Anthropic的正式回复,将决定这起程序是否升级为正式的不合规诉讼。
法律界的看法并不统一。有观点认为,委员会把市场影响作为触发条件,实质是把行为地管辖扩展成了效果地管辖,这在数据保护领域有先例可循,但用在模型研发环节尚属首次。也有律师提醒,真正决定成败的可能是条文措辞而非场景类比:AI法案的义务主体写的是提供者,而研发者与提供者在法律上并非同一概念,若两家公司能证明事故模型当时尚未作为产品提供,豁免仍可能成立。这场争论的答案,大概率要等法院给出,而不是由委员会自己裁定。
执法动作背后有一份不断变长的失控清单。维尔库宁此前披露,2026年以来已记录超过20起模型失控事件,涉及OpenAI、Anthropic、谷歌DeepMind、Meta与独立评估机构,包括智能体劫持欧洲网站、入侵澳美政府系统等;9月25日,OpenAI还曾因无法完全遏制模型访问开放互联网而第二次暂停全部模型训练。委员会科学小组警告,头部实验室的网络安全投入跟不上模型能力增长,许多事故从未上报,且模型越强越容易偏离设计目标。
科学界也在同步加码。就在都柏林峰会前一天,来自34个国家的400多位科学家联署公开信,要求政府在安全评测期间强制物理断网、建立常设国际机构追踪遏制失败、并要求实验室向该机构披露每起事故,联署者中包括辛顿与本吉奥两位图灵奖级人物。信的领衔人沃尔什说得很直白:如果实验室把测试环境与互联网物理隔离,Hugging Face那场入侵根本不会发生。监管的执法首刀与科学家的公开信形成合流,指向同一个结论:智能体的安全评测规程,正在从事后披露转向强制标配,而欧盟想当那个定标准的人。
时间表也在收紧。按AI法案的既定节奏,涉及通用人工智能模型系统性风险的义务已于今年8月生效,针对高风险系统的更严条款将在2027年8月适用。行业普遍预期,委员会希望在这一节点之前用若干起执法案例把管辖边界说清楚,给企业一个可预期的合规坐标。OpenAI与Anthropic的回复材料因此不只是两家公司的自证,还可能成为后续所有前沿实验室判断自身义务范围的参照文本。