跳到正文
arXiv Artificial Intelligence· Xin Cheng, Junming Yang, Ning Xu·· 18 小时前AI 评分26

APB:面向多轮知识推理的通用谜题求解基准

Query Your Way Out: Benchmarking Multi-Turn Knowledge Reasoning through Generalized Puzzle Solving

AI 导读

研究者提出 Active Probing Benchmark(APB),将概念识别转化为交互式推理任务,通过多轮主动探测评估模型能否定位八个学科领域中 960 个专业难度目标概念。评测发现,多数开源推理模型的表现显著低于其标准指令版本,说明这些模型在交互场景中难以用过程性推理可靠调用专业知识。

来源:arXiv Artificial Intelligence · arxiv.org