SOS-LoRA：静态正交子空间参数高效微调方法

2026年10月20日，arXiv 人工智能板块刊出 Yupeng Chang 等作者的论文，提出静态正交子空间低秩适配方法 SOS-LoRA。据该报道，SOS-LoRA 是一种可直接替换的扩展，把 rank-rtot 的更新重参数化为 K 个静态（始终启用、非路由）低秩专家之和，并通过跨专家正交初始化与轻量正则化促进输入侧方向多样化，同时采用固定多尺度缩放。报道称该方法完全可合并，合并后不增加推理参数或延迟；在 Llama 2/3 的推理与知识密集基准、GLUE 及 GSM8K/MATH 上，其表现一致优于同等预算的 LoRA 基线及近期变体。目前事件进展停留在论文发布与方法描述层面，尚无后续跟进报道，也未出现相互矛盾的数字或说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。