跳到正文
arXiv Artificial Intelligence· Xiaotong Ji, Rasul Tutunov, Matthieu Zimmer, Haitham Bou Ammar·· 19 小时前AI 评分28

Scalable Power Sampling:无需训练与验证器,用分布锐化提升 LLM 推理效率

Scalable Power Sampling: Unlocking Efficient, Training-Free Reasoning for LLMs via Distribution Sharpening

AI 导读

研究者提出 Scalable Power Sampling,一种无需训练、无需验证器的算法,通过自回归地锐化基座模型的生成分布来提升 LLM 推理能力。该方法基于自回归幂分布的词元级分解,将全局幂分布近似为词元级缩放低温分布,从而省去迭代 MCMC。在数学、QA 和代码任务上,其表现匹配或超越 one-shot GRPO,且推理延迟较 MCMC 采样降低逾 10 倍。

来源:arXiv Artificial Intelligence · arxiv.org