arXiv Artificial Intelligence· Renato Vukovic, Hsien-chin Lin, Carel van Niekerk, Benjamin Ruppik, Michael Heck, Shutong Feng, Nurul Lubis, Milica Gasic·· 3 小时前AI 评分31
利用低层符号能力实现无监督幻觉检测：LLM 构建 SQL 数据库做神经符号校验
Leveraging Low-Level Symbolic Competences for Unsupervised Grounding in Hallucination Detection
AI 导读
研究者让 LLM 从参考文档构建 SQL 数据库，再基于该数据库对参考内容与采样回答进行推理，从而在无需领域微调的情况下实现无监督幻觉检测。在 RAGTruth 和 DiaHalu 数据集上，该方法优于直接预测，并与当前最优幻觉检测方法相当。该工作表明 LLM 已有的低层通用符号能力（如 SQL）可用于神经符号幻觉检测。
来源：arXiv Artificial Intelligence · arxiv.org