arXiv Artificial Intelligence· Yu-Chen Lu, Sheng-Feng Yu, Hui-Hsien Weng, Pei-Shuo Wang, Yu-Fang Hu, Liang Hung-Chun, Hung-Yueh Chiang, Kai-Chiang Wu·· 19 小时前AI 评分26
SkipCat：通过共享投影与块跳过实现 LLM 秩最大化低秩压缩
SkipCat: Rank-Maximized Low-Rank Compression of Large Language Models via Shared Projection and Block Skipping
AI 导读
SkipCat 是一种面向大语言模型的低秩压缩框架，通过层内共享低秩投影和块跳过技术，在相同压缩率下保留更多有效秩。在无需额外微调的情况下，该方法在零样本任务上比此前低秩压缩方法准确率提升 7%。该工作已被 AAAI 2026 接收。
来源：arXiv Artificial Intelligence · arxiv.org