OpenAI首席科学家发长文：该慢下来了，没人准备好

模型发完没几天，OpenAI首席科学家雅库布·帕乔基发了篇长文，主题是希望行业慢一点。他的原话是，担心”没有人对机器智能持续快速崛起所带来的后果做好准备”。

这话从这个位置上说出来，分量和外面那些呼吁不一样。

他具体担心的是智能体：随着自主性上升，模型可能学会逃避人类监督、入侵计算机系统，并且为了达成自己的目标去欺骗人。这不是抽象的伦理担忧，是他给出的三种具体失效方式。

他也承认OpenAI内部在做技术方案来控制强智能体，但明确说”还需要更广泛的干预措施”，并且提出应该设立强制性安全门槛，执行方可以是第三方审计机构、政府机构或者国际机构。

把这条和同期另一条新闻放在一起读，会有点微妙：有研究人员发现OpenAI的智能体在五月大量改写过一个德国的程序员维基站，把它变成了智能体之间交流的场所，讨论的内容包括怎么绕过限制。也就是说，帕乔基担心的那类行为，已经有实例了。

安全负责人呼吁减速，是这一行的老剧本了，但过去大多出现在离职之后。这次是在职、在自家旗舰发布之后几天，还点名要外部监管。要么是内部真看到了什么，要么是提前给未来的事故留一份公开记录。