跳到正文
arXiv Artificial Intelligence· Kiwoong Park, Seyoung Song, Donghyun Woo, Alice Oh·· 18 小时前AI 评分29

LENS:诊断 LLM 对朝鲜语言、社会与知识的理解

North or South? Diagnosing LLMs' Understanding of North Korean Language, Society, and Knowledge

AI 导读

研究者提出 LENS 基准,用 1,765 道人工校验题目从语言稳健性、社会文化视角对齐、领域知识三个维度评测 LLM 对朝鲜的理解。评测发现模型在朝鲜语输入上性能小幅下降,社会文化视角对齐差距更大,领域知识严重不足,常把正式制度与生活现实混为一谈或套用自由民主假设。

来源:arXiv Artificial Intelligence · arxiv.org