arXiv Artificial Intelligence· Jie Zhu, Ronik Bhaskar, Heather Zheng, Ben Y. Zhao, Kexin Pei·· 17 小时前AI 评分40
自然代码变换如何迷惑 AI 智能体的漏洞分析
Natural Code Transformation Confuses Agents in Vulnerability Analysis
AI 导读
研究发现,面对功能与漏洞完全相同但经过自然代码变换的真实代码提交,AI 智能体的漏洞分析结果差异显著。研究者从真实代码提交中挖掘常见开发模式构建变换语料库,发现单一变换形式即可有效"迷惑"前沿智能体,如搭载 GPT-6 Sol 的 Codex,降低其漏洞发现成功率。研究还考察了不同智能体失败模式、变换组合的防护效果以及试图逆向变换的自适应攻击者。
来源:arXiv Artificial Intelligence · arxiv.org