跳到正文
arXiv Artificial Intelligence· Shaomin Chen, Xiaorui Gong·· 18 小时前AI 评分39

浮点偏置加法中的 Logit 泄漏:最多 52 次 token 查询精确恢复 logit 对

Logit Leakage through Floating-Point Bias Addition

AI 导读

研究揭示语言模型 API 在浮点偏置加法中存在数值侧信道,仅凭 token 身份即可区分具有相同完整未扰动对数概率的分数向量。在 binary32 算术假设和已知可达分数区间下,该方法最多用 52 次 token 查询精确恢复一个 logit 对及其未知的平局优先级。

来源:arXiv Artificial Intelligence · arxiv.org