研究提出LLM社会模拟鲁棒性审计分类TRAILS

2026年10月23日发表于arXiv Artificial Intelligence的一项研究指出，缺乏稳健性审计的LLM社会模拟不应得出科学结论。研究称，LLM社会模拟中的微小扰动会经反复交互放大，使科学结论可能反映实现细节而非所建模的社会机制。在重复囚徒困境与社交媒体回音室两个案例中，persona格式和游戏指令措辞的细微变化使合作率最多偏移76个百分点；同一扰动在一个前沿模型上造成76个百分点偏移，在另一个模型上仅1个百分点。为解决这一验证缺口，Jinyi Ye等作者提出鲁棒性审计分类体系TRAILS（Taxonomy for Robustness Audits In LLM Simulations），覆盖智能体（微观）、交互（中观）与系统（宏观）三个模拟设计层级，并呼吁将鲁棒性作为首要验证要求。目前进展为研究提出分类框架并发出呼吁，尚无后续跟进报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。