arXiv Artificial Intelligence· Zhuoxuan Zhang, Jinhao Duan, Xinyu Zhao, Jinduo Guo, Shuai Shao, Rui Li, Luke Simon, Zhun Deng, Tianlong Chen, Bo Sun·· 18 小时前AI 评分32
AlignPoison：通过解码对齐前缀对生成式推荐模型实施条件定向投毒
AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes
AI 导读
研究发现生成式推荐模型在黑盒条件下易受条件定向投毒攻击：注入不到 1% 的合成交互即可显著提升触发条件下恶意目标的推荐概率。AlignPoison 框架从 API 输出中发现并采样上下文对齐前缀，在单模态与多模态生成式推荐基准上 ASR 提升最高达 16.3 个百分点。
来源：arXiv Artificial Intelligence · arxiv.org