跳到正文
Hacker News · AI 与工程·· 7 小时前精选AI 评分78

DeepSeek 发布 DeepSeek-V4.1-Flash,压缩 KV cache 并支持百万 token 上下文

DeepSeek-v4.1-Flash: Pushing the Limits of KV Cache Compression

AI 导读

DeepSeek-AI 发布多模态 MoE 模型 DeepSeek-V4.1-Flash,主干参数 552B,支持最长一百万 token 上下文。该模型采用 Causal Encoder-Decoder 架构,解码时每 token 激活 16B 参数、prefill 阶段仅激活 8B。

推荐理由

原文给出 KV cache 压缩的具体设计与每 token 占用数据,可供关注长上下文部署成本的人参考。

来源:Hacker News · AI 与工程 · arxiv.org