跳到正文
新智元· AIERA·· 1 小时前同新闻AI 评分78

DeepSeek 开源自研推理框架 DeepInfer

突发,DeepSeek重磅开源核心推理引擎!

AI 导读

DeepSeek 开源自研推理框架 DeepInfer,据称一个集群一天可服务 155 万亿 Token。该框架面向 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模服务。

同一新闻,精选展示《DeepSeek 宣布全面开源内部推理框架 DeepInfer》

来源:新智元 · aiera.com.cn