研究：针对 LLM 的 Trojan 攻击可拉长回复并推高成本，论文提出防御方案

论文针对一种新的数据投毒攻击设计防御：该攻击在提示词中出现触发条件时植入 Trojan，拉长模型回复长度，从而抬高用户的 token 成本。研究展示了该 Trojan 可在指令微调 LLM 上由语义相似的指令触发。部分前沿模型厂商对回复 token 的收费是提示 token 的五倍，另一些则对提示 token 提供预填充折扣。