arXiv Artificial Intelligence· Junwei Chen, Manjiang Yu, Pengpeng Qiao, Yang Cao·· 17 小时前AI 评分31
面向 LLM 对齐的排序感知列表偏好本地差分隐私发布方法
Rank-Aware Differentially Private Release of Listwise Preferences for LLM Alignment
AI 导读
研究提出一种排序感知指数机制，将列表偏好数据私有化为低敏感度粒度，用于 LLM 对齐训练。该机制利用排序信息采样固定大小的二元划分，把噪声集中在边界条目附近，而非像随机化响应（RR）那样对所有条目均匀扰动。在下游 LLM 对齐任务上，匹配隐私预算下该方法持续优于现有 LDP 基线。
来源：arXiv Artificial Intelligence · arxiv.org