OpenAI 公开 Control Room：35 秒内叫停模型任务

模型越来越能干之后，一个老问题变得很现实：真出了状况，能不能马上让它停下来？OpenAI 这次在官网公开了内部的答案，一个叫 Control Room 的中央管控系统。它不是面向用户的新功能，但把”急停按钮”该怎么做讲得相当细，值得做 Agent 的人认真看一遍。

发生了什么

按 OpenAI 的介绍，Control Room 是一个中央系统，用来追踪研究基础设施里的模型工作负载，并在出现安全或安保问题时迅速停掉它们。它接入了每一个研究推理工作负载，包括模型训练和评估中的智能体采样、数据处理等。

几个关键信息：

• 从 Control Room 收到停止指令，到任务无法再取得任何进展，最长 35 秒。
• 它和 OpenAI 的失准监测系统配合工作，监控发现问题后可以直接触发停止。
• 每一个执行智能体推理的研究工作负载，都必须关联一个已获批的安全案例。
• 它被设计成其他系统出故障时仍能工作；它自己宕机时，模型输出同样会停。
• 目前部署在 OpenAI 认为需求最迫切的研究基础设施中。

它是怎么工作的

整套机制由三部分组成：工作负载、推理引擎和 Control Room 服务。

工作负载就是正在跑的任务，比如强化学习实验、评估、大批量采样。推理引擎可以理解为跑在 GPU 上的模型本身，一个任务可能用到多个引擎，一个引擎也可能同时服务多个任务。Control Room 服务负责记账和放行。

流程并不复杂：

1. 任务启动时，先向 Control Room 申请一个 job_id。 2. 任务每次要从模型采样 token，都得带着 job_id 去请求推理引擎。 3. 引擎在响应之前，拿着 job_id 去问 Control Room 能不能放行。 4. 如果这个任务已经被标记为终止，Control Room 拒绝，引擎也跟着拒绝，任务就再也拿不到新的模型输出。

和监控的联动也走这条线。OpenAI 说，所有前沿强化学习任务都在监控器下运行，监控器是另一个模型，盯着被训练模型的一举一动。监控器判断需要干预时，把 job_id 发给 Control Room，之后这个任务无论向哪个引擎上的哪个模型发请求，都会被拒。文中提到，他们最近一次与 DNS 相关的事件就是被监控器发现的。

三个值得琢磨的设计取舍

开关装在推理层，而不是任务代码里。 研究人员写的任务代码五花八门、天天在改，不适合承担关键的安全职责。相比之下，OpenAI 研究里用到的推理代码路径很少，部署也集中。把检查放在这个”必经之路”上，就能保证所有推理请求都过一遍授权，哪怕任务代码有 bug 或者坏掉了也一样。他们还持续用智能体和程序化扫描，检查有没有人无意或恶意地启动了没接入、或者关掉了 Control Room 的引擎。

故障时默认关闭。 如果 Control Room 服务挂了，不管是系统错误，还是被人为禁用乃至恶意篡改，所有推理请求一律拒绝，直到它恢复。OpenAI 说这一机制已经覆盖所有前沿模型研究工作负载，其余研究工作负载会在未来几天内完成。这是一个很硬的选择：宁可研究停摆，也不让模型在没人看管的情况下继续跑。

35 秒是性能换来的。 这个延迟来自推理授权的缓存层，因为流量太大，不可能每次请求都实时查询。OpenAI 表示正在努力把这个数字降到零。

为什么值得关注

以前各家谈安全，多半停留在评测分数和原则声明上。这一次给出的是工程细节：开关装在哪、多久生效、坏了怎么办。能被这样具体描述的机制，才谈得上被外界追问和比较。

另一个信号是，”监控加急停”正在变成训练前沿模型的标配流程，而不是事后补丁。任务必须先有获批的安全案例才能跑，这等于把安全审查前置到了实验立项阶段。

也要看到它的边界。这是 OpenAI 的自述，没有外部审计；35 秒是上限，不代表每次都这么久，也不代表模型在这段时间里做不了事；OpenAI 自己也说，Control Room 只是整体安全方法的一部分，未来几个月还会继续加强。

对普通用户和开发者意味着什么

对用 ChatGPT 或调 API 的人，短期内没有任何可见变化。Control Room 管的是内部研究任务。OpenAI 在文中说明，对外的模型服务栈本来就更集中，已经有成熟的运维手段在需要时快速下线模型部署。

对自己搭 Agent 系统的开发者，这套思路可以直接照着做一个小号版本：

• 给每个任务发一个贯穿全程的 ID，所有模型调用都带上它，方便追踪，也方便一键终止。
• 把终止检查放在调用模型的统一网关上，不要散落在各个业务脚本里。脚本会变、会出错，网关只有一个。
• 想清楚管控服务自己挂掉时的默认行为。涉及自动执行、花钱、改数据的 Agent，默认拒绝通常比默认放行安全。
• 如果为了性能给鉴权加缓存，要知道缓存有效期就是你的最长刹车距离，这个数字要写进文档。
• 监控和执行分开。让另一个模型或规则引擎盯着 Agent 的行为，它只负责喊停，不参与干活。

小结

Control Room 本身离普通用户很远，但它传递的做法很朴素：能力越强的系统，越需要一个不依赖它自己配合的停止按钮，而且这个按钮要装在绕不过去的位置上。对正在把 Agent 接进真实业务的团队，这比任何一次跑分更新都更值得抄作业。

信息来源

• OpenAI News：Control Room
• best2ai 条目：OpenAI 上线 Control Room，可在 35 秒内停止模型输出

更多每日 AI 热点见 best2ai.com