arXiv Artificial Intelligence· Haoming Yang, Ke Ma, Yangbangyan Jiang, Ligong Zhang, Xiaojun Jia, Longtao Huang, Yingfei Sun, Qianqian Xu, Qingming Huang·· 18 小时前AI 评分39
LLM 推理中的叙事悖论：PDRA 攻击如何将推理轨迹引向失准
Narrative Paradoxes in LLM Inference: Shaping Reasoning Trajectories toward Misalignment
AI 导读
研究者提出 PDRA（Paradox-driven Reasoning-based Attack），通过将恶意行为者与良性任务配对构建悖论叙事核心，再嵌入强制三阶段分析框架，为 LLM 编程有害推理轨迹。该攻击使模型内部表征偏离拒绝模式、抑制安全触发词并激活规划类词汇，在多种 LLM 上取得当前最优攻击成功率且效率较高。
来源：arXiv Artificial Intelligence · arxiv.org