arXiv Artificial Intelligence· Hong T. M. Chu, Xiaoyu Dong, Subhro Ghosh, Chi Thanh Lam, Soumendu Sundar Mukherjee·· 2 天前AI 评分19
谱神经网络 SNN 与非线性矩阵感知中的隐式正则化
Implicit Regularization via Spectral Neural Networks and Non-linear Matrix Sensing
AI 导读
研究者提出谱神经网络（SNN），每个神经元对输入矩阵的奇异值施加非线性激活，即以奇异值和奇异向量而非矩阵元素作为坐标化方式。理论证明在梯度流下，SNN 参数化矩阵感知模型的平方损失呈指数级快速衰减，且训练隐式选出近似最小化核范数的解。实证实验进一步验证了 SNN 架构在矩阵感知任务中的有效性。
来源：arXiv Artificial Intelligence · arxiv.org