跳到正文
arXiv Artificial Intelligence· Nicolas Menet, Andreas Krause, Abbas Rahimi·· 3 小时前AI 评分32

POETS:基于高效策略集成的不确定性感知 LLM 优化框架

POETS: Uncertainty-Aware LLM Optimization via Compute-Efficient Policy Ensembles

AI 导读

POETS 通过共享预训练骨干、独立 LoRA 分支的策略集成,直接捕捉 LLM 的认知不确定性,省去训练不确定性奖励模型再拟合策略的嵌套流程。理论上它隐式近似 KL 正则化 Thompson 采样,累积遗憾界为 O(√T γ_T);在蛋白质搜索、治疗分子设计、量子电路设计上取得 SOTA 样本效率,并改善数学推理与代码生成 RL 的优化轨迹和分布外迁移。

来源:arXiv Artificial Intelligence · arxiv.org