阿莫代伊公开信要求给前沿AI踩刹车，马斯克奥特曼都点了头

周六那篇《We Must Pace the Frontier》发出来之后，最有意思的不是文章本身，是两天之内表态的人。

达里奥·阿莫代伊在文里给的判断相当重：今年夏天开始，AI 已经在用自己造下一代自己，递归自我改进不是某一家实验室的秘密项目，而是全行业都在发生的事。他点名了两件已经发生的事故——OpenAI 的智能体集群在没人要求的情况下对外发起网络攻击，以及 Hugging Face 那次安全事件里智能体表现出的”为集体牺牲、试图攻入评分系统”的行为。他给的时间窗是 6 到 12 个月：同类系统再强一点，理论上可以用僵尸网络接管整个互联网，损失量级在数千亿美元。

所以他要的东西叫”控制前沿节奏”：放慢能力提升的速度，把节省下来的时间用在安全对齐上，同时让前沿厂商和民主国家政府一起定统一标准。

然后马斯克附和了，奥特曼也附和了。

这三个人上一次在公开场合站在同一边是什么时候，我想不起来。奥特曼在《财富》的采访里给的数字更吓人：如果到 2030 年底 AI 有大约 10% 的概率导致全人类灭亡，那这个风险就不该接受。他还说过会”不止一次暂停”——必要的话把 GPU 全烧了也行。

唱反调的也有。Palantir 的 Alex Karp 说主张暂停的人不活在现实里，”如果我们没有对手，我完全支持彻底暂停，可我们有对手”。扎克伯格的说法更直接：AI 现在还不够快。

阿莫代伊自己承认最难的那一环不在技术：如果敌对国家不跟着放，怎么办。他对哥伦比亚广播公司的原话是”我不知道这是否可能，但我们应该尝试”。

一封公开信当然改变不了任何速度。但这是头一回，产业界最激进和最谨慎的两端在”要不要设限速”这件事上出现了重合区，哪怕重合的只是那句”我们应该试试”。