OpenAI部署控制室系统叫停失控AI任务

2026年11月10日，IT之家报道，OpenAI宣布已在内部研究设施部署“控制室”系统，用于停止可能存在风险的AI任务，可在35秒内“叫停”失控的AI智能体。报道称，该系统从收到停止指令到阻止任务继续输出的最长延迟为35秒，这一延迟源于推理授权请求的缓存层，公司正努力将延迟缩短至0。系统把智能体训练、评估和数据处理等负载接入中央服务，研究员启用任务需申请唯一任务ID，推理引擎每次请求前向控制室确认是否可运行，停止后控制室拒绝下一次推理请求。报道还称，所有前沿强化学习任务都会配备独立的模型监控器，用于检查模型行为并在发现潜在问题时发出警报。上述信息均来自该报道对OpenAI宣布内容的转述。

AI 根据报道生成 · 22 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。