Hacker News · AI 与工程·· 7 小时前精选AI 评分78
DeepSeek 发布 DeepSeek-V4.1-Flash,压缩 KV cache 并支持百万 token 上下文
DeepSeek-v4.1-Flash: Pushing the Limits of KV Cache Compression
AI 导读
DeepSeek-AI 发布多模态 MoE 模型 DeepSeek-V4.1-Flash,主干参数 552B,支持最长一百万 token 上下文。该模型采用 Causal Encoder-Decoder 架构,解码时每 token 激活 16B 参数、prefill 阶段仅激活 8B。
推荐理由
原文给出 KV cache 压缩的具体设计与每 token 占用数据,可供关注长上下文部署成本的人参考。
来源:Hacker News · AI 与工程 · arxiv.org