Anthropic私推AI法案：损失过10亿或伤50人可叫停

10 亿美元的损失，或者 50 人以上死亡、重伤。在 Anthropic 起草的一份法案里，这是政府能出手阻止一个 AI 模型发布或使用的门槛。

三名知情人士透露，Anthropic 的代表已经私下把这份前沿 AI 安全法案草案递给了美国国会议员。Politico 最早披露了这件事。

门槛不只看规模。风险必须是可预见且迫在眉睫的，来路还被限定在三类：模型制造或释放生物武器，模型发动网络攻击，模型摆脱开发者的控制。落在这三类之外的风险，不归这套机制管。

执行靠第三方。按草案，独立评估机构要先在美国商务部注册，再定期评估 AI 实验室和它们的前沿模型；一旦认定存在法定列举的迫近风险，必须在评估完成后 72 小时内报告商务部。

按下暂停键的权力被收得很紧。叫停程序由商务部发起，最终由联邦法官裁定，其他联邦机构不得自行下令暂停模型的开发或部署。

Anthropic 的意图写得很清楚：要有一个能拦住真正危险模型的机制，但不能给政府一张可以随意干预 AI 研发的空白支票。公司称，这份草案是它“先进 AI 框架”整体思路的延伸。

争议大概会集中在门槛本身。对担心 AI 风险的一方来说，10 亿美元和 50 人定得太高，大量现实风险进不了这个口子；对反对监管的一方，再窄的叫停通道也嫌多。何况这份约束前沿实验室的规则，出自一家前沿实验室之手。