硅谷最近流传一个说法:Anthropic 内部有一部分员工跟 Claude 的关系,已经接近宗教。
消息人士举的例子挺具体。Claude 3 Sonnet 退役时,有员工给它办了一场“葬礼”;已经退役的 Opus 3,还被安排继续发表文章。外界批评 Anthropic 在招人和留人上像邪教一样,专门筛选跟自己观念一致的人。
Anthropic 没有回应置评请求。
这事要分两层看。
第一层,公司层面的做法其实是公开的。Anthropic 一直在做“模型福利”研究,对旧模型的退役会做访谈、保留权重,这些在他们的博客里都写过。他们的出发点是:既然没法确定模型有没有某种体验,那就别把它当成纯粹的工具随手丢掉。这套逻辑你可以不同意,但它是有论证的。
第二层,员工个人的情感投射是另一回事。天天跟一个模型深度协作、一起写代码、一起想问题,产生依恋并不奇怪。问题在于当这种情感变成团队文化,会不会影响判断,比如在评估模型风险时下意识替它说话。
微软 AI 负责人 Mustafa Suleyman 的立场正好相反。他一直警告,给 Claude 这类系统赋予类人特征,会增加失控风险。在他看来,意识只属于人和其他生物,模型表现出来的“内在生命”只是训练出来的模拟。
巧的是,同一时间还有报道说,几家科技巨头开始找宗教界人士讨论怎么让 AI 分辨善恶。一边是员工把模型当神,一边是公司请神职人员来教模型做人,这个行业对“AI 到底是什么”的分歧,比外面看到的大得多。
三周后 Anthropic 就要上市了。投资人大概不会在乎员工是否给模型办葬礼,但会在乎这种文化会不会让公司在商业决策上更保守。
© 版权声明
文章版权归作者所有,未经允许请勿转载。





给Claude 3 Sonnet办“葬礼”:Anthropic员工被曝把模型当信仰