加州给AI装急停开关：失控事件强制上报，实验室要定期审计

加州州长纽森签了一份行政命令，核心内容有三条：AI智能体的”失控事件”企业必须上报；最先进的模型可能被要求配备紧急关停机制；定期审计AI实验室。

行政令还要求召集一个专家小组，在两个月内拿出完善AI安全法律的指引。同时推动加速落实本月刚通过的两项州法案SB 813和AB 1405，这两项管的是外部机构怎么对AI程序做安全评估。

纽森给的理由很直白：联邦迟迟不动，加州只能自己上。

此前几天他还放过话，说在考虑就AI安全问题采取进一步行动，包括可能召开特别立法会议。触发点是近期一批AI研究者公开警告，说这项技术可能对人类构成生存风险。

“紧急关停开关”这个说法听着像科幻，落到工程上其实是个很难的题。模型不是一台机器，它是分布在成千上万张卡上的服务，调用方遍布全球，权重可能已经被下载过。关谁？关到什么程度？关了之后正在跑的业务怎么办？这些细节行政令里一个都没写，只是要求”研究这个方案”。

相比之下，强制上报失控事件要务实得多。目前AI实验室内部的评测出了什么问题，基本靠企业自愿披露，愿意说就说、不愿意说就压着。谷歌那件五月发生、九月才承认的事就是典型。变成法定义务之后，性质就不一样了。

定期审计同理。它不解决能力问题，但至少让外部有了一个稳定的观察口。

加州的特殊性在于，全球最主要的几家AI公司都在它管辖范围内。加州出的规，实际效力常常接近全国性的规。这也是为什么这份行政令一出来，业界的反应比对待任何一份联邦层面的表态都要认真。

当然反对声也不小，主要论点是监管会让美国在竞速中掉队。纽森这次没接这个话题，只强调了一句：联邦不做，那就加州做。