arXiv Artificial Intelligence· Ziyun Liu, Fengmiao Bian, Jian-Feng Cai·· 2 天前AI 评分29
FILO：面向低秩适配的统一 Fisher 几何框架
FILO: A Unified Fisher-Geometric Framework for Low-Rank Adaptation
AI 导读
FILO 是一个面向低秩适配（LoRA）的统一 Fisher 几何框架，可在不直接求逆奇异算子的情况下完成因子空间更新，并按因子空间求逆策略与 W 空间预条件器 F_t 对现有 LoRA 优化器分类。
来源：arXiv Artificial Intelligence · arxiv.org