arXiv Artificial Intelligence· Vikash Singh, Debargha Ganguly, Haotian Yu, Chengwei Zhou, Prerna Singh, Brandon Lee, Vipin Chaudhary, Gourav Datta·· 19 小时前AI 评分22
用形式化验证为视觉语言模型的临床推理提供保证
Toward Guarantees for Clinical Reasoning in Vision Language Models via Formal Verification
AI 导读
研究者提出一种神经符号验证框架，将放射影像的自由文本发现自动形式化为结构化命题证据，并用 SMT 求解器 Z3 结合临床知识库判定每条诊断声明是被数学蕴含、幻觉还是遗漏。在五个胸部 X 光基准上评估七个 VLM，该验证器揭示了传统指标无法发现的推理失败模式，如保守观察和随机幻觉；在带标注数据集上，求解器支持的蕴含约束可系统性消除无依据幻觉，提升生成式临床助手的诊断可靠性与精确率。
来源：arXiv Artificial Intelligence · arxiv.org