跳到正文
arXiv Artificial Intelligence· Simon Henniger, Gabriel Poesia·· 18 小时前AI 评分41

The Token Games:用解谜对决评估语言模型推理能力

The Token Games: Evaluating Language Model Reasoning with Puzzle Duels

AI 导读

研究者提出 The Token Games(TTG)评估框架,让模型互相出题挑战,采用编程谜题格式(给定返回布尔值的函数,找出使其返回 True 的输入)并验证解答,再通过两两对决结果计算 Elo 评分。在 10 个前沿模型上,TTG 排名与 Humanity's Last Exam 等现有基准高度吻合,花费不到 200 美元且无需人工出题。研究还发现,当前模型生成好谜题仍十分困难。

来源:arXiv Artificial Intelligence · arxiv.org