Goodfire推出模型内部监控器拦截失控AI

Goodfire 推出一款监控 AI 智能体的新工具，通过读取模型内部激活信号而非审查其输出，来发现失控行为，据 TechCrunch 报道其成本低于此前的输出审查方式。该监控器面向 Baseten 的客户开放，Baseten 为其他公司托管和运行 AI 模型。 Baseten 客户可自行选择监控的风险类型，包括攻击性黑客行为、化生武器滥用和奖励黑客；也可决定自动响应方式：记录事件、转交人工审查或直接拒绝该请求。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。