跳到正文
arXiv Artificial Intelligence· Wei Xia, Haoqing Wang, Zhi-Hong Deng, Yehui Tang·· 3 小时前AI 评分31

EDRM:用熵动态自适应路由 LLM 推理,节省 16–55% token

When Should LLMs Reason? Adaptive Inference Routing via Entropy Dynamics

AI 导读

EDRM(Entropy Dynamics-based Reasoning Manifold)是一种基于早期解码熵动态的轻量路由框架,默认启发式无需训练路由器,可在 Direct、Standard 和 CoT 解码间选择。

来源:arXiv Artificial Intelligence · arxiv.org