TRACE框架用于语言生成安全干预

2026年10月14日，arXiv Artificial Intelligence 刊出报道称，Ankur Garg 等作者提出 TRACE（Temporal Risk Assessment and Concept Editing）框架，用于在语言生成过程中跟踪有害回复风险、选择性编辑 token 激活，并留下检测与引导决策的可审计痕迹。据该报道，TRACE 通过码本将 token 激活映射到潜在概念，并用 GRU 预测完整回复的有害性与单调累积的流式风险，在生成过程中选择性编辑有害概念的激活。截至本综述，该事件仅有这一篇报道，尚无后续跟进报道，也未出现与早先报道在数字、时间或说法上的矛盾。框架的具体适用对象、收费或额度、地域及使用限制，报道中未作说明。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。