REACT：早期CoT激活干预控制推理安全

2026年10月26日，arXiv Artificial Intelligence 刊出 Hanwen Zhang 等作者的 REACT 研究。该研究提出一种条件激活干预方法：从成对的安全与不安全推理轨迹中学习一个安全方向，在链式推理（CoT）的早期隐藏状态上施加一次干预，模型权重保持冻结。作者在三个蒸馏推理模型上评估，发现最强效果集中在第 2-3 个 token 的早期窗口；在 DeepSeek-R1-Distill-Llama-8B 上，第 4、5 个 token 处效果降至接近零。报道称，该研究关注链式推理轨迹的表征早期分析与控制，目前进展为方法提出与模型评估结果公布。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。