arXiv Artificial Intelligence· Chong Zeng, Ziqian Zhong, Kexun Zhang, Ivan Bercovich, Ivgeni Segal, Yuzhen Mao, Shashwat Saxena, Aditi Raghunathan·· 18 小时前AI 评分42
面向智能体环境的可扩展弱到强验证器加固
Scalable Weak-to-Strong Verifier Hardening for Agent Environments
AI 导读
研究提出一种可扩展的全自动弱到强验证器加固方法，先建立智能体无法直接修改的隔离验证器沙箱，再用 hacker-fixer 循环发现并修复验证器漏洞。该方法应用于 Terminal Bench、KernelBench 和 SETA，大幅降低攻击成功率，且随循环迭代次数增加防御逐步增强，优于静态非迭代基线。其早期版本已被官方 Terminal Bench 仓库采用，用于审计环境中的漏洞利用。
来源：arXiv Artificial Intelligence · arxiv.org