arXiv Artificial Intelligence· Hanwen Zhang, Enyi Jiang, Ruike Zhu, Qinan Yu, Sanmi Koyejo·· 2 小时前AI 评分38
REACT：链式推理轨迹的表征早期分析与控制
REACT: Representational Early Analysis and Control of Chain-of-Thought Trajectories
AI 导读
REACT 通过从安全与不安全轨迹对中学习安全方向，在早期 CoT 隐藏状态上施加一次条件激活干预，模型权重保持冻结。在三个蒸馏推理模型上，最强效果集中在第 2-3 个 token 的早期窗口；在 DeepSeek-R1-Distill-Llama-8B 上，第 4、5 个 token 处效果降至接近零。
来源：arXiv Artificial Intelligence · arxiv.org