跳到正文
arXiv Artificial Intelligence· Minghao Luo, Liang Chen·· 18 小时前AI 评分33

DoubtLess:免训练对比解码让推理模型更简洁

DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning

AI 导读

DoubtLess 是一种免训练解码方法,用较小的推理模型引导大模型精简思维链:小模型分别以简洁和冗长提示读取大模型已生成的 CoT,两次 logit 向量之差按强度缩放后加入大模型每步解码。

来源:arXiv Artificial Intelligence · arxiv.org