ZOIF：仅用前向传播的零阶影响力函数估计，用于 LLM 数据选择

ZOIF 提出一种完全基于前向传播的零阶影响力函数估计框架，用于大语言模型的数据选择，避免反向传播带来的显存开销。该方法将影响力估计拆解为三步无 BP 流程：零阶估计平均代理梯度、以辅助零阶优化求解逆 Hessian 向量积、沿参数更新方向做前向有限差分得到单样本影响力分数。实验显示其选出的数据子集在下游效用上不逊于甚至部分超过基线，同时峰值显存显著降低，整体计算时间相当。