arXiv Artificial Intelligence· Lorenzo Mannocci, Francesca Naretto, Lucia Passaro, Anna Monreale·· 13 小时前AI 评分31
RAG-Enhanced LLMs 用于临床决策支持的交互式可解释性
RAG-Enhanced LLMs for Interactive Explainability in Clinical Decision Support Systems
AI 导读
一项研究提出结合预测模型、XAI 技术与检索增强生成模块的临床决策支持系统（CDSS），用经核验的医学知识为解释提供依据，并将技术输出改写为自然语言，支持临床医生主动查询。该设计旨在缓解 LLM 解释中的幻觉输出与来源不可追溯问题，构建人在环路的交互环境。研究以初步实验验证了该方法。
推荐理由模型分析
该工作针对临床决策支持中XAI解释难以被医生直接使用、LLM解释又易幻觉且不可溯源的问题，将预测模型、XAI与检索增强生成结合，把技术输出改写为可交互的自然语言并锚定在已核验的医学知识上。对做医疗AI解释与human-in-the-loop工具的开发者，可作为比较基线参考；但文中仅称初步实验验证，尚缺临床场景下的效果与安全性证据。
来源：arXiv Artificial Intelligence · arxiv.org