Hacker News · AI 与工程·· 2 小时前精选AI 评分78
Inception 发布扩散 LLM Mercury 3,速度达 1000+ tokens/s
Inception "Mercury 3", 1000 tok/s diffusion LLM
AI 导读
Inception Labs 发布扩散式 LLM Mercury 3,在 NVIDIA GPU 上达到 1,068 tokens/s,上下文 1M tokens,定价为每百万输入 token 0.20 美元、输出 0.70 美元。
推荐理由
原文给出扩散 LLM 在速度、上下文与价格上的具体参数,可供判断实时场景的选型取舍。
来源:Hacker News · AI 与工程 · inceptionlabs.ai