IT之家·· 55 分钟前AI 评分60
OpenAI 部署“控制室”系统,35 秒内叫停失控 AI 智能体
35 秒内“叫停”失控的 AI 智能体,OpenAI 部署“控制室”系统
AI 导读
OpenAI 宣布已在内部研究设施部署“控制室”系统,用于停止可能存在风险的 AI 任务,从收到停止指令到阻止任务继续输出的最长延迟为 35 秒。该系统把智能体训练、评估和数据处理等负载接入中央服务,研究员启用任务需申请唯一任务 ID,推理引擎每次请求前向控制室确认是否可运行,停止后控制室拒绝下一次推理请求。
推荐理由模型分析
OpenAI 公开了内部“控制室”系统的运行方式,把任务 ID 与推理请求授权绑定,使停止指令能在最长 35 秒内阻断模型输出。对做 Agent 训练与部署的团队来说,这提供了一个可参考的运行时管控设计,也说明延迟主要来自授权请求的缓存层。
来源:IT之家 · ithome.com