SFT在激活几何中留下可复现签名
热点事件持续更新
SFT在激活几何中留下可复现签名
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
2026年10月14日,arXiv Artificial Intelligence 刊出 Xupeng Chen 等作者的论文,报告 SFT 在激活几何中留下可复现签名并给出校准方法。研究在 Qwen3-1.7B 的稀疏共激活图上发现,两次 LoRA-SFT 重跑之间的距离超过各自与基座距离的一半,说明模型 diff 不能默认重跑会落在附近;base→SFT 的图位移达四次独立 LoRA-SFT 运行平均距离的 17.8 个成对距离标准差,该预注册估计器在 Llama-3.1-8B 上用 Llama-Scope 复现。作者同时限定:所有频带使用的图均构建于同一 GPU 架构;完整协议的范围为一个骨干、一种 SFT 配方与通用文本探针状态;轻量 GRPO 属次要的未检出结果,不等于不存在,且未做等价性检验;其主张是经校准的结构性位移,而非机制改变。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 12:00
Qwen3-1.7B 上 SFT 在激活几何中留下可复现特征:面向运行间噪声校准后训练可解释性报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv Artificial IntelligenceQwen3-1.7B 上 SFT 在激活几何中留下可复现特征:面向运行间噪声校准后训练可解释性
在 Qwen3-1.7B 的稀疏共激活图上,两次 LoRA-SFT 重跑之间的距离超过各自与基座距离的一半,说明模型 diff 不能默认重跑会落在附近。base→SFT 的图位移达四次独立 LoRA-SFT 运行平均距离的 17.8 个成对距离标准差,该预注册估计器在 Llama-3.1-8B 上用 Llama-Scope 复现。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。