审计冻结LLM几何约束的表示-行为差距

2026年10月30日，arXiv Artificial Intelligence 刊出 Man Liang 等作者的论文，提出一个基于参数化 CAD 的受控审计框架，用于区分冻结 LLM 处理几何约束时在编码、表达与激活级控制三类上的失败，并在八个预训练模型及匹配的随机初始化对照上验证。报道称，预训练对局部关系的线性解码贡献远大于全局约束状态，后者在随机表征中已高度可解码；但强局部可解码性并未转化为零样本预测，仍远低于监督探针表现。报道还称，仅用 400 对标注关系做低秩微调，即可在三个代表性模型上显著改善生成，说明该表征-行为鸿沟可通过适配缩小。目前进展限于该论文给出的审计与微调结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。