arXiv Artificial Intelligence· Yingjun Mo, Yajie Zhao, Fang Kong·· 18 小时前AI 评分24
从策略评估到离策略控制:Transformer 上下文 Q-Learning 的可证明涌现
From Policy Evaluation to Off-Policy Control: Provable Emergence of In-Context Q-Learning
AI 导读
研究证明两层纯注意力 Transformer 可实现有限温度形式的 Q-learning,温度 τ>0 控制对贪婪动作选择的近似,τ→0 时退化为 window Q-learning。
来源:arXiv Artificial Intelligence · arxiv.org