arXiv Artificial Intelligence· Shin'ya Yamaguchi·· 18 小时前AI 评分31
用上下文感知解码缓解 Chain-of-Thought 中的查询捷径
Mitigating Query Shortcuts in Chain-of-Thought with Context-Aware Decoding
AI 导读
研究将上下文感知解码（CAD）用于 CoT 推理，提出 Rationale Contrastive Decoding（RCD），通过对比有、无推理依据时下一 token 的分布，放大因依据而提升概率的 token，并从 KL 正则化奖励最大化目标给出理论解释。
来源：arXiv Artificial Intelligence · arxiv.org