跳到正文
arXiv Artificial Intelligence· Gal Arnon, Andrej Bogdanov, Paul Lou, Giulio Malavolta, Alon Rosen, Lorenzo Taschin·· 17 小时前AI 评分22

自回归 token 生成的局限:顺序采样器的状态与隐蔽信道研究

Limitations on Autoregressive Token Generation via Sequential Sampling

AI 导读

研究通过顺序采样器框架分析自回归 token 生成,证明 k 位状态的顺序采样器可由无状态采样器以约 O(2^k) 规模开销模拟,且高效插入式采样强于任意固定顺序的高效顺序采样。小状态顺序采样器无法建立特定形式的隐蔽密码信道,这为防范恶意 LLM 智能体间的潜意识协同提供了潜在安全机制。

来源:arXiv Artificial Intelligence · arxiv.org