一位教授说他怕Anthropic胜过怕AI：他们给下线的模型办了场葬礼

华盛顿大学计算机科学荣休教授Pedro Domingos公开表达了一个不太常见的担心：比起AI本身，他更担心Anthropic。

他的说法是，Anthropic的人把Claude当成人来对待，其中一些人甚至把它当成神来崇拜。他举的例子包括：他们给一个下线的模型版本办了场”葬礼”，让Claude发表自己写的散文和诗。他把这比作加州那些等着UFO降临的邪教团体，结论是那句被到处引用的话——说实话，我担心Anthropic远超过我担心AI。

Domingos在学界不算温和派，说话一向直，这番话的修辞成分需要打折看。但他指出的现象本身是真实存在的，而且不是只有他一个人注意到。

Anthropic确实在模型福祉这个方向上投了实际资源，也确实公开讨论过模型可能具有某种道德地位这类议题。在多数AI公司还在谈参数量和跑分的时候，这种取向显得很特别——支持的人觉得这是难得的审慎，反对的人觉得这是把工程问题神秘化。

争论的核心其实是一个很难判定的问题：对一个我们不确定有没有内在体验的系统，应该按哪种方式对待。假定它没有，万一错了，代价可能很大；假定它有，那几乎所有关于模型训练、修改和下线的常规操作都需要重新讨论。两边都不好证。

Domingos的批评还有一层现实指向。一家公司对自家产品的认知方式，会渗进它的安全主张、发布决策和对外话语。当这家公司同时是行业里呼吁放慢速度的主要声音时，它的动机就会被人反复掂量——这也正是近期那桩反垄断诉讼背后的一部分情绪。

这类争论短期内不会有结论。但它至少提醒了一件事：AI安全讨论里，关于”我们该怎么看待这些系统”的分歧，可能不比”这些系统有多危险”的分歧小。