跳到正文
arXiv Artificial Intelligence· Jithin VG, Ditto PS·· 2 小时前AI 评分55

Bud ContextCompact 2.0:小模型受限上下文窗口下的智能体上下文压缩

Bud ContextCompact 2.0: Context Compaction for Agent Success and Accuracy with Small Language Models and Constrained Context Windows

AI 导读

Bud ContextCompact 2.0 是 Bud 智能体运行时内置的上下文压缩机制,作者在两类设置中做了评测。在录制会话的召回问题上,压缩到 16K 预算把 1.2B 参数模型的准确率从截断的 0.247 提升到 0.335(p < 0.001),9B 模型从 0.515 提升到 0.577(p = 0.04)。

来源:arXiv Artificial Intelligence · arxiv.org