Anthropic把安全法案递进美国国会,叫停前沿AI模型须过联邦法官三重门槛

首页 / AI资讯 / AI大厂

0:00
0:00
1x
定时

一家AI公司亲自起草了约束自家行业的法律条文,然后开始逐个拜访议员。据Politico 10月16日率先披露,Anthropic的代表近日私下向美国国会议员推介一份法案草案,核心内容只锁定一个问题:联邦政府在极端情况下可以叫停前沿AI模型的发布或使用,但必须由联邦法官最终拍板。消息经法新社与多家国际媒体跟进确认后,迅速在华盛顿政策圈与硅谷之间激起两极反应。支持者认为这是头部实验室第一次把自家安全承诺写成可执行的联邦条款,批评者则担忧,这套看起来严格的程序,实际上把监管门槛抬到了几乎不可能触发的位置。

三重门槛:什么样才算迫在眉睫

草案给政府干预划定了三条几乎同时成立的条件。第一,风险必须是可预见且迫在眉睫的,不能用假设性推演来立案。第二,后果必须够重,可能造成超过10亿美元的经济损失,或者导致50人以上死亡或重伤。第三,风险来源必须特定,仅限于生物武器的制造或扩散、模型规避开发者设定的控制措施,以及引发严重网络攻击这三类情形。三条门槛的措辞直接沿用了加州SB 53等现行州法中的核心表述,等于把Anthropic在州层面接受过的规则原样搬进了联邦文本。对照现实可以看到这套门槛的分量:今年夏天多家头部实验室披露过AI智能体自主扫描或入侵网站的安全事件,但迄今没有任何一例造成大规模伤亡,也没有一例损失超过10亿美元。换句话说,按草案标准,目前行业内所有已公开的事故都够不上叫停条件,这个设计本身就被批评者反复引用。

法官把关:为什么是法院而不是行政机关

程序设计是草案最鲜明的特征。即便三重门槛全部满足,政府部门也没有直接下架模型的权力:商务部必须向联邦地区法院提交申请,由法官审查后下达暂停命令,而且法案明确写死了管辖法院,哥伦比亚特区联邦地方法院的法官才有资格签发。草案同时禁止美国其他任何部门、机构或官员下令暂停相关模型的开发、部署或内部使用,各州也被排除在这套程序之外,不得绕开联邦通道单独行动。设计者的逻辑不难理解:把叫停权收进最窄的一条司法通道,既防止行政权被滥用冲击产业,也避免五十个州各自为政造成监管碎片化。这个安排与美国当前的政策基调存在微妙的呼应,特朗普政府上台后依赖的是行业自愿承诺和行政令,国会因两党分歧至今没有通过任何联邦AI法律,而国会目前处于休会状态,要等11月中期选举之后才复会。草案即便获议员认可,进入立法流程的窗口也要等选举落幕。

独立评估机构:一条72小时的通报链

草案的第三根支柱是独立评估制度。根据条文,承担评估职能的机构必须在美国商务部注册,定期对AI实验室及其前沿模型开展安全评估;实验室可以支付评估费用,但报酬不得与评估结果挂钩,用利益隔离来保住独立性。一旦评估机构认定某家公司的前沿模型存在草案所列的迫切风险,必须在完成评估后的72小时内向商务部通报,商务部认定模型构成风险后才能启动向法院申请暂停的程序。这条通报链与Anthropic此前的动作可以连起来看:首席执行官阿莫迪在呼吁全行业放缓前沿研发时提出的三步方案里,就包含向实验室派驻嵌入式评估员的内容,而就在Politico报道发布的同一天,多家媒体证实该公司已向一家外部评估机构授予员工级别的内部访问权限。从提出方案、接受评估到推动立法,Anthropic正在把安全叙事变成一套完整的制度产品。

从州法优先到联邦立法:立场的微妙转弯

值得玩味的是Anthropic在联邦与州之间立场的迁移。今年6月,这家公司还在公开文件中表态,如果没有强有力的联邦法律,各州应当保留全部立法权力。而这份草案明确写入了对部分州法的优先覆盖,加州现行的AI监管规则也在被覆盖之列。转变的背景是州层面立法的快速膨胀:各州接连出台口径不一的AI规则,对在数十个州运营的实验室来说,合规成本与不确定性都在上升,一部统一的联邦法反而更可预期。政策圈的对照样本也已经出现:众议院今年夏天提出的FRONTIER Act被认为是更严格的竞争方案,Institute for Law and AI智库的研究负责人查理·布洛克评价Anthropic草案相当合理,称其已经超过了其他前沿实验室所做的努力,但同时也指出它比FRONTIER Act更弱。两种立法思路的拉扯,将是中期选举后国会辩论的主线之一。

免死金牌还是安全底线:争议两边的算盘

批评的声音集中在两点。其一是门槛设计:10亿美元损失加50人伤亡的组合,被质疑高到几乎永不触发,等于给前沿模型颁发了一张免死金牌;其二是竞争效应:独立评估、测试披露、安全体系建设都是重资产投入,中小实验室很难负担,草案事实上在用合规成本筑起护城河。支持方的算盘则是另一套:与其等事故发生后再仓促立法,不如在灾难性风险出现前,先把一条极窄但真实存在的紧急刹车通道写进法律,至少它要求前沿开发者测试最强模型、向公众公开测试结果、接受独立评估并维持健全的安全计划。Anthropic发言人的回应把落点放在了延续性上,称法案体现的是公司高级人工智能框架中的建议,他们自6月以来一直在推动联邦和州层面的立法者采纳。回看这家公司今年的遭遇,2月被五角大楼禁止进入其系统,6月被华盛顿方面要求暂停最先进模型将近三周,安全议程对它而言既是理念也是切身的生存经验。这份草案最终能否进入委员会审议仍是未知数,但它已经把一个问题摆上了台面:AI监管的第一部联邦法律,会不会由被监管者自己来写第一稿。

素材来源:中国金融新闻网、科创板日报、联合早报 发布时间:2026-10-21