跳到正文
arXiv Artificial Intelligence· Kaiyu Huang, Yiting Li, Angyang Gu, Pinjia He, Minchen Yu, Qingjiang Shi·· 20 小时前AI 评分35

AM-Bench:跨模型与执行框架理解任务欠规范下的智能体表现

AM-Bench: Understanding Agents under Task Underspecification across Models and Harnesses

AI 导读

研究团队构建了 AM-Bench 基准,从 Terminal-Bench 2.0 和 Harness-Bench 改编 48 个任务,每个任务含一个完整规范参考和六个覆盖目标、上下文、约束缺失或模糊的变体,对五种模型与四种执行框架的全部组合进行了 20,160 次运行。

来源:arXiv Artificial Intelligence · arxiv.org