奥特曼说 AI 有两种翻车方式，一种是失控，另一种是权力太集中

奥特曼把 AI 可能的坏结局收敛成了两种：一种是人类失去对 AI 的控制权，另一种是权力过度集中到某个单一的人、公司、国家或实验室手里。

他给的答案是一条窄路——AI 保持与人类价值对齐，同时没有任何单一实体获得足以为所有人塑造未来的权力。

第二种风险由 OpenAI 的 CEO 提出来，位置有点微妙。他管的这家公司正好是全球最接近那个描述的几个实体之一。

同一场访谈里被问到一个更直白的问题：你们几个为什么不能关在一个房间里，喝点啤酒，把人类的事情解决掉。奥特曼的回答是他认为这样的会面会发生，但不会预先宣布私下的讨论。

这句话透露的比它看起来多。阿莫代伊上周末的那篇文章里提了一个具体请求——希望政府给 AI 公司反垄断豁免，好让他们能就”协同放缓”所需的安全对话进行沟通。也就是说，”关在一个房间里谈”这件事在现行反垄断法下是有法律风险的，几家头部公司坐下来约定谁不做什么，法律上叫串通。

所以奥特曼说”会发生但不预告”，等于说这种沟通会在灰色地带里进行。

另一边，一个很难想象的联盟正在成形。桑德斯、史蒂夫·班农，加上从 Anthropic 离职的研究员 Jacob Coxon，围绕同一个诉求聚到了一起：AI 必须留在人类控制之下。进步派左翼、MAGA 保守派、AI 行业内部人士，三方在”失控风险”和”企业权力过度集中”这两点上意见一致。

这个联盟能走多远不好说，它内部对”控制”的定义可能完全不同——桑德斯想控制的是资本，班农想控制的是技术精英，Coxon 想控制的是模型能力。但它确实构成了一股此前不存在的政治压力。

奥特曼列的两种风险里，第二种正在变成一个政治议题，比第一种快得多。