Ember:面向token接口的千字节状态优化器
热点事件持续更新
Ember:面向token接口的千字节状态优化器
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
2026年10月15日,一篇发表于arXiv Artificial Intelligence的论文提出Ember,一种面向嵌入表与LM-head矩阵的轻量优化器。据该论文,Ember仅需O(V+D)优化器显存,而非Adam的O(2VD),且无需分片token表优化器状态。论文称,在跨两个数据集、三组配对随机种子的5万步预训练中,Ember相对调优后的AdamW将验证损失降低0.08–0.09 nats,并提供Ember随批量大小与参数量扩展的经验证据。论文还提供一个分布式Ember实现,称其可与现有ZeRO/FSDP设置干净合并。上述数据与结论均出自该论文自身表述,尚未见独立复现或第三方验证的报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
Ember:面向 Token 接口的千字节状态优化器报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv Artificial IntelligenceEmber:面向 Token 接口的千字节状态优化器
Ember 是一款针对嵌入表和 LM-head 矩阵的轻量优化器,仅需 O(V+D) 优化器显存而非 Adam 的 O(2VD),且无需分片 token 表优化器状态。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。