arXiv Artificial Intelligence· Xiuyuan Qi, Pedro Reviriego, Javier Conde, Shanshan Liu·2026-11-06 13:00· 2 天前AI 评分31

BlockLock：以固定批几何实现可复现的 LLM 推理

BlockLock: Reproducible LLM Inference with Fixed Batch Geometry

AI 导读

BlockLock 通过固定受保护请求所见的批几何，在同伴请求变化时仍逐位保持该请求的输出，同时保留共享的批量 prefill。