SAGE 2比特向量量化方法发布
热点事件持续更新
SAGE 2比特向量量化方法发布
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
2026年10月14日,arXiv Artificial Intelligence 报道了 Xianglong Yan 等人提出的 SAGE 2比特向量量化方法。该工作针对权重量化,采用能量分层分组(ESG)与自适应比特分配(ABS)两项设计,在 2-bit 权重量化下取得 SOTA 表现:在 Qwen3-30B-A3B 上保留 BF16 模型平均基准分数的 95.3%。配合定制 CUDA kernel,SAGE 相比 FP16 实现最高 2.55 倍非流式端到端加速。报道称代码已开源,并给出可获取代码的链接。目前进展为方法发布与代码开放,尚无后续跟进报道。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 12:00
SAGE:将 2-Bit 向量量化 LLM 推向真实可用报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv Artificial IntelligenceSAGE:将 2-Bit 向量量化 LLM 推向真实可用
SAGE 通过能量分层分组(ESG)与自适应比特分配(ABS)两项设计,在 2-bit 权重量化下取得 SOTA 表现,在 Qwen3-30B-A3B 上保留 BF16 模型平均基准分数的 95.3%。配合定制 CUDA kernel,SAGE 相比 FP16 实现最高 2.55 倍非流式端到端加速,代码已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。