Hilbert距离统一Muon优化器设计
热点事件持续更新
Hilbert距离统一Muon优化器设计
1 篇报道1 个报道来源17 小时前更新
先了解这件事
AI 综述
2026年10月15日，arXiv Artificial Intelligence 刊出 Aditya Somasundaram 等作者的论文，提出用 Hilbert 几何统一 Muon 在 softmax 模块中的优化器设计。研究以 Hilbert 距离作为约束 softmax 输出分布变化的自然度量，据此界定交叉熵损失变化并限制概率重分配；对 softmax 而言，该距离表现为预激活扰动的变差半范数，从而把概率约束转化为参数约束。作者进一步以 Hilbert 距离约束构建最速下降问题，将 RowNorm 与 Compositional Muon 两种近期方法纳入统一数学框架。论文称提出 Hilbert 距离作为界定这些输出分布变化的自然度量。目前报道仅涉及该框架的提出与统一，未提及实验验证、性能对比或应用部署等后续进展。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
用 Hilbert 几何统一 Muon 在 softmax 模块中的优化器设计报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv Artificial Intelligence用 Hilbert 几何统一 Muon 在 softmax 模块中的优化器设计
研究提出用 Hilbert 距离作为约束 softmax 输出分布变化的自然度量，可界定交叉熵损失变化并限制概率重分配。对 softmax 而言，该距离表现为预激活扰动的变差半范数，从而把概率约束转化为参数约束。以 Hilbert 距离约束构建最速下降问题，可将 RowNorm 与 Compositional Muon 两种近期方法纳入统一数学框架。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。