研究者提出 First Passage Attention 注意力机制

2026年10月22日，arXiv 人工智能板块的一篇报道称，研究者 Yuxuan Liu 提出 First Passage Attention（FPA）注意力机制。该机制把注意力中遗忘门的路径求和改为路径极值：按学习到的标量场在关键跨度内的最深下探幅度，成比例降低 key 的 logit，从而选择性擦除中间上下文，同时保留较早的结构相关 token。报道引述原文表述为“We propose First Passage Attention (FPA), which shifts from path summation to path extrema by lowering a key's logit proportionally to the deepest dip of a learned scalar field below that key's level over the intervening span.”目前该事件仅有这一篇主报道，尚无跟进报道，也未出现数字、时间或说法上的前后矛盾；该机制的实际效果与适用范围在现有报道中未进一步说明。

AI 根据报道生成 · 3 小时前更新