NVIDIA Developer Blog· Michelle Horton·· 1 天前AI 评分22
ReplaySSM：重新思考混合模型解码的状态存储
ReplaySSM: Rethinking State Storage for Faster Hybrid-Model Decoding
AI 导读
NVIDIA 提出 ReplaySSM，重新思考混合模型解码时的状态存储方式。NVIDIA Nemotron 3、Qwen3.5 至 Qwen3.8、Kimi-K3 和 GLM-5.3-Flash 等混合模型将 SSM 层与少量注意力层交替堆叠。
来源：NVIDIA Developer Blog · developer.nvidia.com