arXiv Artificial Intelligence· Morio Hamada, Jehyeok Yeon, Matteo Migliarini, Justin Olive, Magda Dubois·· 2 小时前AI 评分29
基准饱和后如何评估模型能力:任务转录仍保留能力信号
Evaluating Model Capabilities After Benchmark Saturation
AI 导读
研究用历史基准与模型版本回溯模拟基准饱和,测试仅访问已饱和基准中正确解答转录的协议能否预测留出未饱和题目上的模型能力。在成对评判、单转录绝对打分及确定性转录特征或嵌入预测中,成对评判表现最佳,预测误差比仅用饱和基准分数的基线降低 5.3 倍。该能力信号分布在转录各部分,但集中在推理与工具调用等特定通道,且跨分布迁移时并不总能泛化,例如会低估 2025 年初首批推理模型的能力。
来源:arXiv Artificial Intelligence · arxiv.org