LatComm：LLM间可复用上下文压缩

2026年10月20日，arXiv Artificial Intelligence 刊出 Huawei Lin 等作者的论文，提出 LatComm——一种面向大语言模型间潜在通信的可复用上下文压缩方法。该报道称，LatComm 将上下文编码与读取分离：冻结的编码器 LLM 先把不含问题的上下文压缩成固定大小数据包，再由另一个冻结的接收端 LLM 通过交叉注意力按提示词门控读取。报道给出的实验结果显示，在 12 个多项选择问答数据集上，其平均准确率较单向量基线最高提升 10.2 分；在 QuALITY 数据集上，接收端输入减少 57 倍，回答一篇文章的问题快 3 倍。上述数字与效果均出自该篇报道，尚待更多独立验证。目前该事件仅有这一篇主报道，暂无跟进报道或后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。