arXiv Artificial Intelligence· Xiaomeng Li·· 13 小时前AI 评分31
Verifier 噪声即温度：在有限预算 LLM 引导搜索中检验 tilt 预测
Verifier Noise Is a Temperature: Testing Tilt Predictions in Finite-Budget LLM-Guided Search
AI 导读
研究把 LLM 引导搜索中"更优则保留"的接受门视为可逆马尔可夫链，推导出平稳分布为被 exp(beta f) 倾斜的变异平衡态，beta = 4F'(0)，minibatch 门控下 beta 随 minibatch 大小的平方根增长。
推荐理由模型分析
该文把“保留更优候选”的LLM引导搜索建模为可逆马尔可夫链，推导出评分分布应被 exp(βf) 倾斜，并给出小批量门控下 β 随批量平方根增长的预测。作者用预注册实验检验该预测：七种设置中六种水平随批量上升，但数值吻合失败，且从优质程序出发的搜索在300步内持续掉质。适合研究LLM搜索/提示优化的开发者参考其可逆性与平稳分布假设，并注意结论仅限所测任务，定量预测未获证实。
来源：arXiv Artificial Intelligence · arxiv.org