从控制论视角看深度学习：残差网络、Transformer 与大语言模型

一篇综述从控制论视角梳理深度学习，涵盖前馈与残差神经网络、Transformer、大语言模型和选择性状态空间模型。文章指出残差网络可视为连续时间控制系统的离散化，Transformer 可看作共识算法的离散化，因此大语言模型表现出共识特性；反向传播与最优控制的联系也可在离散与连续时间模型间调和。