连续潜在上下文让 Transformer 实现高效在线学习

研究提出用少量连续潜在上下文 token 作为持久状态，使固定深度 Transformer 能实现加权多数算法与 Q-learning 两种在线决策过程。作者用多课程目标训练了一个小型 GPT-2 风格 Transformer，在长合成在线预测序列上优于可比的离散状态基线。与提示 LLM 的对比显示，文本状态摘要同样能改善适应能力。