热点事件观察中

DictLLM：字典核训练后压缩大模型

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

2026年11月6日，arXiv 人工智能板块刊出 Jinho Park 等作者的论文，提出名为 DictLLM 的大语言模型训练后压缩方法。该方法把分组层内的权重矩阵分解为共享字典与层专属稀疏系数，可直接从预训练模型获得，无需额外训练。其压缩流程被建模为四步优化：先用 SVD 获取共享字典，再用字典感知 Hessian 稀疏化系数，随后精修字典，最后对字典与系数两部分分别量化。作者报告，在 LLaMA-7B 上实现 5.1 倍压缩，WikiText-2 困惑度仅上升 2.9 点，压缩率比现有最优低秩方法高 3.6 倍。目前该工作以论文形式发布，报道未提及代码、模型发布或第三方复现情况。

AI 根据报道生成 · 2 天前更新

最新进展11月6日 13:00

DictLLM：用字典核实现大语言模型训练后压缩

报道时间线

沿着报道，了解事件的不同侧面。

11月6日

13:00
arXiv Artificial Intelligence
DictLLM：用字典核实现大语言模型训练后压缩
DictLLM 是一种基于字典的训练后压缩方案，将分组层内的权重矩阵分解为共享字典与层专属稀疏系数，无需额外训练即可从预训练模型直接获得。该方法把压缩建模为四步优化：SVD 获取共享字典、用字典感知 Hessian 稀疏化系数、再精修字典，最后对两部分分别量化。在 LLaMA-7B 上实现 5.1x 压缩，WikiText-2 困惑度仅上升 2.9 点，压缩率比现有最优低秩方法高 3.6x。

本事件热度走势

可比范围当前: 3
可比范围峰值: 711月7日 03:00
近 24 小时变化: -49%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。