部分生成推断LLM交互安全的方法

2026年10月14日，arXiv Artificial Intelligence 刊出 Ram Vikas Mishra 等作者的研究，提出用部分生成结果判断大语言模型（LLM）交互安全性，而非仅凭提示词分类。团队构建了含 41,944 个提示词-响应对的数据集，覆盖 Llama、Gemma、Qwen 三个家族的七个开源权重模型。研究发现，提示词标签与响应标签仅在 50.46% 的样本上一致（Cohen's κ = 0.06）；在任一模型上引发有害响应的提示词中，仅 3.5% 对全部七个模型都有害。作者据此指出，模型与输入提示交互的安全性可以在仅获得部分输出时就被提前推断出来。目前该工作以预印本形式发布，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。