OpenAI 在内部研究系统里装了一个急停开关,名字叫 Control Room。
原理不复杂。研究员启动任何任务之前,先向 Control Room 申领一个唯一的任务 ID,这个 ID 会跟着该任务发给推理引擎的每一次请求。引擎执行之前,要先确认这个任务还有没有运行权限。
一旦研究员或监控模型喊停,任务 ID 被标记为终止,下一次推理请求就会被拒绝,模型不再为它生成任何内容。
从发出停止指令到彻底拦住,最长 35 秒。延迟来自推理授权的缓存层,OpenAI 说正在把它压到零。
它管的范围包括强化学习训练、模型评估、智能体采样和数据处理。所有前沿强化学习任务都配了独立的监控模型,盯着被训练模型的推理过程和操作,按风险高低决定报警还是直接暂停。
同期披露的还有一套内部编码智能体监控,由 GPT-5.4 驱动,在交互结束后 30 分钟内审查智能体的思考链和动作。过去五个月它看了数千万条轨迹,针对连贯 scheming 这类高风险失调的最高级别警报一次没触发,这类行为只在合成评估里出现过;中等级别的警报大约 1000 次。
35 秒听着很短。可一个跑在集群上的智能体,35 秒能发出的调用不在少数。与其说这证明了“拉得住”,不如说 OpenAI 承认了另一件事:它内部的智能体任务已经多到需要一个中央开关来管。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






OpenAI 内部上线“控制室”,最长 35 秒掐断一个出问题的模型任务