arXiv Artificial Intelligence· Vasileios Saketos, William Reveillard, Alexandre Proutiere, Sebastian Dalleiger, Ming Xiao·· 17 小时前AI 评分24
该延迟还是不该延迟？LLM 与拥塞专家场景下的在线学习
To Defer or Not to Defer? Online Learning with LLMs and Congested Experts
AI 导读
针对 LLM 处理常规查询、将不确定问题转交人类专家的场景，研究者提出在线序列决策框架：系统观察 LLM 答案的置信度信号，在专家容量受限时决定输出答案还是延迟转交。
来源：arXiv Artificial Intelligence · arxiv.org