跳到正文
热点事件持续更新

研究提出模型-执行框架交互评测框架

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

2026年10月26日,arXiv Artificial Intelligence 刊出 Shao Zhang 等作者的研究,提出一套评估 LLM 智能体表现的框架,用于衡量模型与执行框架(harness)的交互效果。该框架包含五项指标:有效完成率(VCR)、模型-框架适配度、跨模型适配度、交互残差和 Token 负载。研究在 OpenCode、Codex CLI、Pi CLI、DeepAgents 四个通用框架,以及四个核心模型和两个原生系统上开展实验,覆盖六项基准,共 111 种设置、52,168 条轨迹。结果显示,框架排名会随所用模型和基准的不同而变化,说明智能体表现不能只归因于模型或框架单方。报道未披露各指标的具体计算方式、实验时间范围及排名细节。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv Artificial Intelligence
    智能体失败该怪模型还是执行框架?研究提出模型-框架交互评估框架

    研究提出一套评估框架,用有效完成率(VCR)、模型-框架适配度、跨模型适配度、交互残差和 Token 负载五项指标衡量 LLM 智能体表现。在 OpenCode、Codex CLI、Pi CLI、DeepAgents 四个通用框架与四个核心模型及两个原生系统上,覆盖六项基准共 111 种设置、52,168 条轨迹,结果显示框架排名随模型和基准变化。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。