跳到正文
arXiv Artificial Intelligence· Andrea Wynn, Harsh Satija, Nathan Baek, Anqi Liu, Eric Nalisnick, Gillian K. Hadfield·· 19 小时前AI 评分33

LLM 规范能力的基础、设计与挑战:多智能体社区辩论中的规范推断研究

Reading the Room: Foundations, Design, and Challenges of Normative Competence in LLMs

AI 导读

研究提出多智能体社区辩论环境,用合成规范控制辩论准入,以在脱离预训练暴露的条件下考察 LLM 的规范能力。基线 LLM 智能体即使学规范能提升准确率也学不会,且规范遵循对规范风格和驱动规范模块的模型高度敏感,缺乏泛化性。当真实规范伴随非规范性个体行为时,LLM 智能体出现不加区分的归因失败,连无关噪声一并模仿,即便明确惩罚也无改善。

来源:arXiv Artificial Intelligence · arxiv.org