自回归token生成顺序采样局限性研究

2026年10月15日，arXiv Artificial Intelligence 刊出由 Gal Arnon 等作者发表的一项研究，题为《自回归 token 生成的局限：顺序采样器的状态与隐蔽信道研究》。该研究通过“顺序采样器”框架分析自回归 token 生成：顺序采样器是一种仅依据此前符号、并可能携带少量状态来采样下一符号的电路。研究证明，k 位状态的顺序采样器可由无状态采样器以约 O(2^k) 规模开销模拟，且高效插入式采样强于任意固定顺序的高效顺序采样。研究还表明，小状态顺序采样器无法建立特定形式的隐蔽密码信道，这为防范恶意 LLM 智能体间的潜意识协同提供了潜在安全机制。目前该事件仅有这一篇主报道，尚无后续跟进报道，也未出现数字、时间或说法上的前后矛盾。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。