ValuSpec：树状推测解码的候选估值机制

2026年10月23日，arXiv Artificial Intelligence 刊出 Liang He 等作者的论文，提出 ValuSpec 候选估值机制。据该报道，ValuSpec 是一种即插即用的候选评估机制，可在目标模型进行昂贵验证之前，从候选树中过滤低质量分支；它无需参数训练，通过校准集上目标模型的贪心轨迹估计过滤阈值。报道称，在 HumanEval、GSM8K、Dolly 和 SpecBench 上，该方法在基于检索的树设置中实现最高 2.38 倍端到端加速；集成到 EAGLE-3 动态树框架后，在不修改其树构建策略的情况下加速最高达 2.78 倍。目前该事件仅有这一篇主报道，尚无跟进报道或相互矛盾的数字与说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。