arXiv Artificial Intelligence· Selen Erkan, Bastian Boll, Kristian Kersting, Bj\"orn Deiseroth, Letitia Parcalabescu·· 3 小时前AI 评分31
超越提示词与解析器工程:用软提示微调实现 LLM 自动化评测
Beyond Prompt and Parser Engineering: Soft-Prompt Tuning for Automated LLM Evaluation
AI 导读
研究者提出一种基于软提示微调的自动化评测方法,仅优化 10 个软提示向量(7B 模型约 0.0006% 参数)即可让模型适配特定 benchmark 格式,避免基准分数因格式遵循能力不足而低估模型知识。在 7 个模型和 11 个数据集上,该方法约 150 步(约 1200 样本)即饱和格式遵循能力,在成熟基准上接近强评测框架基线,且在长上下文数据集和输出风格不同的指令微调变体上改善评测信号。
来源:arXiv Artificial Intelligence · arxiv.org