OxyGen：面向VLA推理的统一KV缓存管理

2026年10月15日，arXiv Robotics 刊出由 Xiangyu Li 等作者提出的 OxyGen，一种面向视觉-语言-动作（VLA）推理的统一 KV cache 管理设计。该设计将 KV cache 视为跨任务与控制周期共享的一等资源，通过跨任务 KV 共享消除共享观测的冗余 prefill，并用跨帧连续批处理在每帧解码预算内推进未完成的语言请求。作者在 OxyGen 中实现该设计，并在 NVIDIA GeForce RTX 4090 与 Jetson AGX Thor 上评测 π0.5：在 RTX 4090 上相对隔离执行最高取得 3.7 倍加速，同时实现超过 200 tokens/s 的语言吞吐与 70 Hz 动作频率。作者还在 Xiaomi-Robotics-0 与 StarVLA 上跨不同骨干与专家配置验证该设计，并在搭载 Jetson AGX Thor 的人形机器人上展示推理增益。上述加速与吞吐数字均绑定于 RTX 4090 的评测条件。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。