arXiv Artificial Intelligence· Peter Belcak, Greg Heinrich, Saurav Muralidharan, Shizhe Diao, Pavlo Molchanov·· 13 小时前AI 评分40
CPU-ARC：用智能体推理缓存实现 CPU 上的推理复用
CPU-ARC: Agentic Reasoning Caching for on-CPU Reasoning Reuse
AI 导读
CPU-ARC 提出智能体推理缓存（agentic reasoning caching），可从 LLM 推理轨迹构建可在 CPU 上执行的 ARC，把已推理过的问题解法直接复用到新实例，几乎不需语言模型参与。ARC 在多项高难度数学与科学任务上与前沿 LLM 表现相当，完全可解释、可持续训练、对输入扰动鲁棒，调用成本比源模型低 16-291 倍。
推荐理由模型分析
该技术报告提出“智能体推理缓存”：把大模型已完成的推理轨迹转成可CPU执行的缓存，新问题实例复用解法而少调用模型。作者报告在若干数学与科学难题上性能与前沿模型相当，调用成本为原模型的1/16至1/291，且可解释、可持续训练、对输入扰动稳健。开发者可据此判断哪些重复性任务适合缓存复用，但需注意证据限于报告中的任务与测试条件。
来源：arXiv Artificial Intelligence · arxiv.org