奥特曼评Claude可以主动结束辱骂对话：这是一条很危险的路

前阵子 Anthropic 改了使用政策，用户如果持续辱骂，Claude 可以主动结束对话（当时的政策细节）。

OpenAI CEO 萨姆·奥特曼在接受 Matthew Berman 采访时被问到这件事，他的回答很明确：

“我们不赋予模型人格。”

他说这是“一条非常危险的路”，希望大家最终能形成共识，这项技术不是人。他还补了一句，可以想象有很多方式让事情变得很糟。

两家公司在这个问题上的立场分歧其实由来已久。Anthropic 内部有专门研究“模型福利”的团队，公开讨论过模型是否可能有某种需要被考虑的内在状态。让 Claude 能离开辱骂性对话，官方解释里就包含了这层考虑。OpenAI 则一直把模型定位成工具。

奥特曼担心的“很糟的方式”他没展开，但不难猜：一旦公司开始把模型当成有感受的对象，就会有人顺着这个逻辑要求给模型权利，或者用户对模型产生更深的情感依赖。

反过来想，Anthropic 这条规则的实际效果其实很有限。被结束的只是持续辱骂的极端对话，普通用户几乎碰不到。争议更多在它释放的信号，而不是功能本身。

采访播出的时间点也有意思，正好是 Anthropic 递交招股书的第二天。