跳到正文
热点事件持续更新

Ember:面向token接口的千字节状态优化器

1 篇报道1 个报道来源18 小时前更新

先了解这件事

AI 综述

2026年10月15日,一篇发表于arXiv Artificial Intelligence的论文提出Ember,一种面向嵌入表与LM-head矩阵的轻量优化器。据该论文,Ember仅需O(V+D)优化器显存,而非Adam的O(2VD),且无需分片token表优化器状态。论文称,在跨两个数据集、三组配对随机种子的5万步预训练中,Ember相对调优后的AdamW将验证损失降低0.08–0.09 nats,并提供Ember随批量大小与参数量扩展的经验证据。论文还提供一个分布式Ember实现,称其可与现有ZeRO/FSDP设置干净合并。上述数据与结论均出自该论文自身表述,尚未见独立复现或第三方验证的报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv Artificial Intelligence
    Ember:面向 Token 接口的千字节状态优化器

    Ember 是一款针对嵌入表和 LM-head 矩阵的轻量优化器,仅需 O(V+D) 优化器显存而非 Adam 的 O(2VD),且无需分片 token 表优化器状态。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。