跳到正文
arXiv Artificial Intelligence· Nikita Kozodoi, Zainab Afolabi, Jack Butler·· 3 小时前AI 评分34

LLM 测试时增强:推理阶段该在哪里注入多样性

Test-Time Augmentation for LLMs: Where to Inject Diversity at Inference Time

AI 导读

研究对比了 LLM 测试时增强(TTA)中不同多样性注入位置的效果,在六个基准、相同推理调用次数下发现多样性来源比数量更重要。保持语义的输入改写带来最大准确率提升(较单次调用 +1.80 pp),且所需样本最少;字符级噪声虽使回答分歧率升至 37.8%(改写为 27.4%),准确率增益却更低,同时扰动两种模态甚至低于单次调用基线。

来源:arXiv Artificial Intelligence · arxiv.org