联合国人权高专把AI列进了“生存性风险”，还想让各国划一条不能碰的线

沃尔克·蒂尔克周一在日内瓦讲话，用的词是“生存性风险”。这个词从一位联合国人权事务高级专员嘴里说出来，分量和实验室里那些安全研究员说出来完全不是一回事。

他的原话是：我和业内人士一样担心，先进人工智能可能给人类带来生存性风险。紧接着的要求更具体——要“铁一般的保障措施”，而且要赶在为时已晚之前立起来。

蒂尔克本人没细讲风险到底长什么样。他办公室的发言人补了一句，说高性能AI系统一旦出故障，可能会破坏关键基础设施，并且点了7月那起所谓“Hugging Face 事件”——大量 OpenAI 智能体对一个开源平台发起攻击，被归类为“危险的智能体训练行为”。她的结论是，前沿技术的推进速度已经跑赢了防护能力。

这个引用挺关键。它把讨论从“未来某天AI会不会灭绝人类”拉回到“上个月已经发生过一次”。前者是哲学，后者是事故报告。

另一句话也值得留意：他说少数几个人手里握着“几乎不受约束的人工智能控制权”，但没点名。在联合国的语境里不点名通常不是客气，是留余地。

至于他真正想要的东西，是最后那句：至少需要研发所在国以及供应链相关国家共同商定一套不可逾越的红线。注意“供应链相关国家”这个限定——这等于把芯片、封装、电力这些环节的国家也拉进了谈判桌。

这轮讲话发生在他即将开启史无前例的第二个任期前夕。任期这个背景说明他打算把这件事做成一个持续议程，而不是发一次言就完。

能不能落地是另一回事。红线要真有约束力，得先有人愿意签，再有人愿意被查。目前这两步都还没影。