发布对齐相关概念特征向量数据集

2026年10月20日，arXiv Artificial Intelligence 刊出 Dmitry Scherbakov 等作者的论文，介绍一种面向 AI 对齐与可解释性的概念向量规模化构建方法。研究者以合成概念-对立故事对的模型激活均值差构建特征向量，覆盖 1,036 个对齐相关概念，使用跨多语言、多体裁的 200 万条合成故事，并公开该数据集。报道称，在三个模型家族的六个模型上，这些特征向量能可靠泛化到聊天对话和网页文本中的概念检测，形成跨模型共享的可解释几何结构，注入激活后可因果引导模型行为；该方法还被用于分析越狱攻击及数学与智能体推理过程中的模型表征。目前进展为数据集与论文公开发布，报道未提及后续更新或争议。

AI 根据报道生成 · 38 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。