跳到正文
热点事件持续更新

SFT在激活几何中留下可复现签名

1 篇报道1 个报道来源18 小时前更新

先了解这件事

AI 综述

2026年10月14日,arXiv Artificial Intelligence 刊出 Xupeng Chen 等作者的论文,报告 SFT 在激活几何中留下可复现签名并给出校准方法。研究在 Qwen3-1.7B 的稀疏共激活图上发现,两次 LoRA-SFT 重跑之间的距离超过各自与基座距离的一半,说明模型 diff 不能默认重跑会落在附近;base→SFT 的图位移达四次独立 LoRA-SFT 运行平均距离的 17.8 个成对距离标准差,该预注册估计器在 Llama-3.1-8B 上用 Llama-Scope 复现。作者同时限定:所有频带使用的图均构建于同一 GPU 架构;完整协议的范围为一个骨干、一种 SFT 配方与通用文本探针状态;轻量 GRPO 属次要的未检出结果,不等于不存在,且未做等价性检验;其主张是经校准的结构性位移,而非机制改变。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv Artificial Intelligence
    Qwen3-1.7B 上 SFT 在激活几何中留下可复现特征:面向运行间噪声校准后训练可解释性

    在 Qwen3-1.7B 的稀疏共激活图上,两次 LoRA-SFT 重跑之间的距离超过各自与基座距离的一半,说明模型 diff 不能默认重跑会落在附近。base→SFT 的图位移达四次独立 LoRA-SFT 运行平均距离的 17.8 个成对距离标准差,该预注册估计器在 Llama-3.1-8B 上用 Llama-Scope 复现。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。