提出量化鲁棒性遗忘框架
热点事件持续更新
提出量化鲁棒性遗忘框架
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
2026年10月15日,arXiv Artificial Intelligence 发布一项研究,提出一种量化鲁棒的 LLM 遗忘学习框架。该研究通过损失景观分析发现,曲率准则可定位导致遗忘不鲁棒和效用下降的敏感权重,据此提出敏感度引导的噪声正则化,将模型收敛导向遗忘损失与保留损失均匀较低的更平滑极小值;同时引入遗忘关键优化,仅更新遗忘关键层以保留其余网络知识。在 MUSE 和 TOFU 基准上跨多种 LLM 遗忘算法实验显示,该方法在维持模型效用的同时实现了更强的量化弹性遗忘。论文注明代码已公开。截至本综述,该事件仅有这一篇主报道,暂无后续跟进报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
基于保留-遗忘损失景观交互的量化鲁棒性遗忘学习框架报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv Artificial Intelligence基于保留-遗忘损失景观交互的量化鲁棒性遗忘学习框架
研究提出一种量化鲁棒的 LLM 遗忘学习框架,通过损失景观分析发现曲率准则可定位导致遗忘不鲁棒和效用下降的敏感权重,据此提出敏感度引导的噪声正则化,将模型收敛导向遗忘损失与保留损失均匀较低的更平滑极小值。该方法还引入遗忘关键优化,仅更新遗忘关键层以保留其余网络知识。在 MUSE 和 TOFU 基准上跨多种 LLM 遗忘算法实验显示,该方法在维持模型效用的同时实现了更强的量化弹性遗忘。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。