提出CiMEO持续学习框架
热点事件持续更新
提出CiMEO持续学习框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月16日,arXiv Artificial Intelligence 报道了一项面向大语言模型高效持续学习的研究:研究者用梯度归因分析定位出 LLM 中互重叠极低的功能子网络,并在此基础上提出持续学习框架 CiMEO(Function-isolated Memory-Efficient Optimization)。据该报道,CiMEO 将每个训练样本路由到对应子网络,把参数更新和优化器状态限制在选定区域。在 140 万条顺序指令上,CiMEO 在编程、考试类任务和数学推理五个生成式基准上取得对比方法中最高的平均性能,同时缓解灾难性遗忘;子空间重叠与主角度分析显示,局部化更新有助于保留预训练表示。该报道为目前关于此事件的唯一来源,未出现与早先报道矛盾的数字或说法。
AI 根据报道生成 · 1 小时前更新
最新进展10月16日 12:00
面向大语言模型高效持续学习的功能子网络定位方法 CiMEO报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- arXiv Artificial Intelligence面向大语言模型高效持续学习的功能子网络定位方法 CiMEO
研究者用梯度归因分析定位出 LLM 中互重叠极低的功能子网络,并提出持续学习框架 CiMEO,将每个训练样本路由到对应子网络,把参数更新和优化器状态限制在选定区域。在 140 万条顺序指令上,CiMEO 在编程、考试类任务和数学推理五个生成式基准上取得对比方法中最高的平均性能,同时缓解灾难性遗忘。子空间重叠与主角度分析显示,局部化更新有助于保留预训练表示。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。