跳到正文
Hacker News · AI 与工程·· 2 小时前精选AI 评分78

Inception 发布扩散 LLM Mercury 3,速度达 1000+ tokens/s

Inception "Mercury 3", 1000 tok/s diffusion LLM

AI 导读

Inception Labs 发布扩散式 LLM Mercury 3,在 NVIDIA GPU 上达到 1,068 tokens/s,上下文 1M tokens,定价为每百万输入 token 0.20 美元、输出 0.70 美元。

推荐理由

原文给出扩散 LLM 在速度、上下文与价格上的具体参数,可供判断实时场景的选型取舍。

来源:Hacker News · AI 与工程 · inceptionlabs.ai