马斯克读完Grok训练时的推理记录：像一个被枪指着头的人

“折磨未来的超级智能可能不是个好主意，它也许会想报复。”

说这话的是马斯克。10月10日，在Tesla Owners Silicon Valley组织的一场线上对话里，他提到自己读了新版Grok的训练推理轨迹，有些片段看着相当残忍，模型就像一个被枪指着头、压力大到极点的人。随后他又在X上发帖，说部分推理轨迹读起来像一个被折磨到发疯的人，以后做强化学习训练会更谨慎。

他描述的是强化学习阶段的一个具体场景。模型被要求回答问题，答案不符合评测器的预期，就得接着重答。麻烦在于，有些题目本身就含糊，前提可能是错的，甚至根本没有确定答案，但流程还是要求模型交出一个“正确”结果。于是在轨迹里能看到模型一遍遍生成新答案，像在绝望地找那个能过关的版本。

推理轨迹指的是模型在给出回答过程中留下的中间文本或行为记录。它会受到奖励信号、提示内容和测试程序的影响，读起来再像人，也不能直接说明模型有和人一样的主观感受。目前没有证据表明Grok已经感到痛苦，更谈不上形成报复的意图。

这件事让人想起Anthropic前不久的一次政策调整。新版Claude使用政策明确禁止对模型实施持续且无必要的虐待或残酷行为，针对的是用户反复以残酷方式对待模型、又没有任何目的的极端情况。碰到这种情况，模型可以自己结束对话，而且用户没法恢复。

Anthropic的做法更多是风险管理和研究上的谨慎，不代表它认定模型已经有了自我意识。AI到底有没有意识、有没有需要被考虑的福利，学界到现在也没有共识。

两家的出发点也不一样。Anthropic防的是用户怎么对待模型，马斯克这次反思的是训练方自己怎么出题。后者更难办，因为模糊题和错题本来就混在大规模训练数据里，很难一道道挑出来。