MeshRT晶圆级推理运行时论文发布
热点事件持续更新
MeshRT晶圆级推理运行时论文发布
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
2026年11月9日，arXiv Artificial Intelligence 刊出 Congjie He 等作者的论文，提出面向低延迟高吞吐 LLM 推理的晶圆级运行时 MeshRT。论文称，MeshRT 是首个在 LLM 推理上同时实现超低延迟与高吞吐的晶圆级系统，其核心思路是“编译期治理运行时动态性”：把 batching、MoE 等动态事件直接编译进每核调度，实现异步去中心化执行。作者报告，在商用晶圆级加速器上，MeshRT 吞吐相比同类最先进系统最高提升 56 倍；对比 H200 上实测的单实例 SGLang，延迟低 4.5–7.0 倍。该工作已被 SOSP 2026 接收。上述性能数字均为论文作者自述，尚待独立复现验证。
AI 根据报道生成 · 12 小时前更新
最新进展11月9日 13:00
MeshRT：面向低延迟高吞吐推理的编译期治理晶圆级运行时报道时间线
沿着报道，了解事件的不同侧面。
11月9日
- arXiv Artificial IntelligenceMeshRT：面向低延迟高吞吐推理的编译期治理晶圆级运行时
MeshRT 是首个在 LLM 推理上同时实现超低延迟与高吞吐的晶圆级系统，通过“编译期治理运行时动态性”架构，将 batching、MoE 等动态事件直接编译进每核调度，实现异步去中心化执行。在商用晶圆级加速器上，其吞吐相比同类最先进系统最高提升 56 倍；对比 H200 上实测的单实例 SGLang，延迟低 4.5-7.0 倍。该工作已被 SOSP 2026 接收。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月9日 14:00
- 近 24 小时变化
- –
02.557.510
14:0016:0018:0020:0022:0011月10日
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。