arXiv Artificial Intelligence· Johannes Knittel, Alec Helbling, Hanspeter Pfister·2026-10-16 12:00· 2 小时前AI 评分34

RoleQ：按功能角色放置缩放因子，将语言模型转换为三值权重

RoleQ: Role-Aligned Scales for Converting Language Models to Ternary

AI 导读

RoleQ 是一种按 Transformer 单元功能角色而非权重矩阵布局放置缩放因子的量化框架：读取残差流的向量按输出单元一个缩放，写入残差流的按输入单元一个，无需搜索、校准或存储状态。