arXiv Artificial Intelligence· Muyang Zhao, Chunhao Tian, Qi Qi, Hao Sun·· 20 小时前AI 评分24
ROI-Reasoning:通过预计算元认知实现推理的理性优化
ROI-Reasoning: Rational Optimization for Inference via Pre-Computation Meta-Cognition
AI 导读
ROI-Reasoning 是一个两阶段框架,让 LLM 在严格全局 token 预算下具备预算感知的理性推理能力。它先通过元认知微调让模型预测推理成本并判断问题是否值得尝试,再用理性感知强化学习优化长程 token 分配策略。在数学推理、选择题问答和代码生成任务中,该方法在紧张预算下提升得分并降低参考序后悔,数学任务相对最强同骨干基线最高提升 417%。
来源:arXiv Artificial Intelligence · arxiv.org