arXiv Artificial Intelligence· Shai Vardi, Jo\~ao Sedoc·· 17 小时前AI 评分38
为 LLM 建议引入“认知担保”:在缺乏真实答案时评估建议的可依赖范围
Epistemic Warrant for LLM Recommendations: Characterizing the Basis for Reliance When Ground Truth Is Unavailable
AI 导读
研究者提出“认知担保”(epistemic warrant)这一决策层概念,用于刻画 LLM 建议被支持的范围,并通过依赖证书(reliance certificate)以四层行为测试证据将建议归入相应担保类别。构念效度检验显示,证书分配随预设担保等级递增,更强担保与更高的人类独立共识相关,且能捕捉言语化置信度之外的信息。结论在跨模型与不同实现下保持稳健。
来源:arXiv Artificial Intelligence · arxiv.org