arXiv Artificial Intelligence· Xinnan Dai, Kaiqi Yang, Yaxin Li, Cheng Luo, Wanli Li, Mingqing Xiao, Xinyang Jiang, Daoan Zhang, Kaitao Song, Fengze Liu, Zefan Cai, Caihua Shan·· 18 小时前AI 评分33
Words to World:在真实物理环境中评测 LLM 的交互能力
Words to World: Benchmarking LLMs in Interactive Physical Environments
AI 导读
研究者提出 Words to World 基准,让 LLM 通过连接机械臂、摄像头和传感器的 harness 系统进行闭环物理交互,模型需发出指令、接收物理反馈、解读状态并调整下一步动作。实验显示,代表性 LLM 在将语言推理转化为物理行动时存在幻觉状态变化、异常结果恢复能力差、长程规划不稳定等常见失败模式。
来源:arXiv Artificial Intelligence · arxiv.org