跳到正文
arXiv Artificial Intelligence· Julian Poeltl, Thomson Yen, Patrick Shea, Shubham Anil Varma, Dhruv Rastogi, Zihao Chen, Mengshi Zhang, Hongseok Namkoong·· 2 小时前AI 评分40

MBABench-2.0:评估 AI 智能体从零构建财务电子表格的能力

MBABench-2.0: Evaluating AI Agents on Constructing Financial Spreadsheets Beyond Simple Verifiability

AI 导读

MBABench-2.0 基准包含 101 个原创电子表格构建任务,最难任务估计需 3 年以上经验建模师耗时 33 小时。该基准用覆盖 12 类的 129 项标准评估可读性、可维护性等超出准确性的质量维度,在 8 个模型、4 种 harness 的 20 多个智能体中,最佳通过率仅 16%。

来源:arXiv Artificial Intelligence · arxiv.org