跳到正文
arXiv Artificial Intelligence· Shuyi Miao, Zheng Li, Xu Xie, Linrui Xu, Fei Shen, Xiaoyu Du, Tat-Seng Chua·· 2 天前AI 评分29

Circe:无需训练的 LLM 自评估方法,利用组件交互一致性判断回答正确性

Circe: Training-Free LLM Self-Evaluation via Component Interaction Consistency

AI 导读

Circe 是一种无需训练、无需参考答案或重复采样的 LLM 自评估方法,通过融合内部与外部信号给回答打分。内部信号包括组件交互一致性(CIC),衡量前层注意力更新与后层注意力诱导 FFN 输出变化的方向对齐,以及表征几何(RG)刻画隐状态轨迹的归一化位移与角度变化;外部信号将生成 token 的平均负对数似然转为有界似然置信度(LC)。

来源:arXiv Artificial Intelligence · arxiv.org