跳到正文
arXiv Artificial Intelligence· Xiaolong Huang, Yinyuan Zhang, Daliang Xu, Yun Ma, Qing Li, Mengwei Xu, Shangguang Wang, Gang Huang, Xuanzhe Liu·· 18 小时前AI 评分42

OrbitWeaver:跨星上中断恢复视觉语言模型推理

Resuming Vision-Language Inference across Onboard Interruptions

AI 导读

OrbitWeaver 框架通过协同检查点与恢复机制,在低轨卫星上保留 VLM 推理进度,使中断后的请求无需从头重算。其阶段感知检查点按视觉编码、语言模型 prefill 与解码的状态生命周期选择恢复边界,依赖感知动态恢复在层与 token-chunk 维度调度部分完成状态。

来源:arXiv Artificial Intelligence · arxiv.org