跳到正文
arXiv Artificial Intelligence· Shizhan Cai, Qixin Zhang, Siyuan Ma, Siyuan Liang, Yongcheng Jing, Dacheng Tao·· 17 小时前AI 评分22

基于可学习类别先验的概率多源数据选择:方差缩减与可保证的去随机化

Probabilistic Multi-Source Data Selection via Learnable Categorical Priors: Variance Reduction and Guaranteed Derandomization

AI 导读

针对多源双层数据选择问题,该研究提出一种新的概率松弛方法,引入多个可学习类别先验来参数化仅支撑于可行数据子集的概率分布,从而自然获得无损舍入方案。该方法具备有效的两点梯度估计器,可同时避免现有 0-1 松弛所需的逆 Hessian 计算和先前概率松弛中无界分数项,并给出可约简表示以减少梯度计算所需的下层重训练次数。

来源:arXiv Artificial Intelligence · arxiv.org