跳到正文
arXiv Artificial Intelligence· Seyed Arshan Dalili, Ajay Narayanan Sridhar, Vijaykrishnan Narayanan, Mehrdad Mahdavi·· 18 小时前AI 评分31

Cobras:基于黎曼激活引导的条件最优桥接方法

Conditional Optimal Bridge for Riemannian Activation Steering

AI 导读

Cobras 将大语言模型的激活引导建模为残差流超球面上的 Schrödinger Bridge,从优化问题中推导出对数密度比引导目标,并构建查询自适应的引导场。该方法还利用拟合的传输过程给出支持度分数以控制 OOD 干预。在四个模型上,Cobras 在有用性、真实性和去毒等任务中几乎全部优于既有引导方法,同时基本保持 OOD 性能。

来源:arXiv Artificial Intelligence · arxiv.org