SchemaWeaver端侧并行解码加速工具调用
热点事件持续更新
SchemaWeaver端侧并行解码加速工具调用
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
2026年10月14日,arXiv Artificial Intelligence 发布 Boyuan Yang、Wei Gao 的论文,提出 SchemaWeaver 端侧移动智能体 AI 技术。该技术在 LLM 工具调用的解码阶段引入 schema 引导的并行解码,每次解码生成多个 token,以降低延迟。论文称,SchemaWeaver 无需训练或修改 LLM,即可通用地接入移动设备上的 LLM 推理引擎;在主流移动 SoC 和 LLM 系列上的实验结果显示,相比竞品基线,其最高可降低 3.9 倍工具调用延迟。目前进展停留在论文发布阶段,尚无后续跟进报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月14日 12:00
SchemaWeaver:用 schema 引导并行解码加速端侧移动智能体 AI报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv Artificial IntelligenceSchemaWeaver:用 schema 引导并行解码加速端侧移动智能体 AI
SchemaWeaver 是一种端侧移动智能体 AI 技术,在 LLM 工具调用的解码阶段引入 schema 引导的并行解码,每次解码生成多个 token 以降低延迟。它无需训练或修改 LLM 即可接入移动端推理引擎,在主流移动 SoC 和 LLM 系列上相比竞品基线最高降低 3.9 倍工具调用延迟。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。