苏莱曼：真发现 AI 有意识苗头，我会喊所有人暂停

微软 AI 负责人穆斯塔法·苏莱曼周日在 X 上发了一篇长文，立场不绕弯：现在的 AI 模型没有意识，开发者也应该让它一直没有。

原话的分量在后半句。他说按自己掌握的信息，如果开发有意识的 AI 是可能的，那这么做是“鲁莽的”；要是训练过程中开始出现意识萌芽，“我会呼吁所有人暂停 AI 开发，直到我们能够通过设计去除这些特性”。一旦有证据表明模型产生了意识，必须立刻向公众披露，由整个社会决定下一步。

他还用了个词：我们无权创造“数字物种”。

这番话不是凭空来的。就在同一周，Anthropic CEO 达里奥·阿莫迪公开说，他们在模型内部看到了可以称作“不想被关闭”的念头，这是公司想在训练中调整的东西之一。Anthropic 这两年一直在做“模型福利”方向的研究，整体上对这个问题保持开放；苏莱曼则是业内反对这条路最响亮的人。

分歧的实质，其实不在哲学。

如果社会开始相信 AI 有意识，接下来就是权利、责任、关机算不算伤害这一串问题，产品会变得没法卖。苏莱曼站在要把 Copilot 卖进每家公司的位置上，当然希望它就是工具。教皇利奥十四世上周也说了类似的话：“机器是工具而非人”，并警告不要赋予 AI 法律主体地位。两边出发点不同，结论倒走到了一起。

问题是，“出现意识萌芽”这件事目前没有任何公认的检测标准。真要暂停，谁来判定，谁来喊停，这篇长文没回答。