arXiv Artificial Intelligence· Saket Reddy, Amro Abbas, Anshuman Suri, Ari Morcos, David Schwab, Pratyush Maini·· 19 小时前AI 评分45
SimpleLoRIF：将 LLM 安全退化追溯到训练数据
Follow the Gradient: Tracing Safety Degradation Back to Training Data
AI 导读
SimpleLoRIF 通过简化低秩归因方法并将反向传播限制在最后四个 transformer 块，可对百万级样本数据集做梯度嵌入，把梯度归因变成实用的后训练数据过滤器。
来源：arXiv Artificial Intelligence · arxiv.org