IT之家·· 2 小时前AI 评分38
机械革命大师之路 X10 NVIDIA RTX Spark 新品发布会定档 11 月 19 日
AI 导读
机械革命宣布大师之路 X10 NVIDIA RTX Spark 新品发布会定档 11 月 19 日。该机将搭载机械革命自研 AI SSD,可把超大规模本地模型从 DRAM 卸载到 NAND,并通过保存复用已处理上下文、优化模型加载减少重复计算与加载开销。
推荐理由模型分析
这条消息只给出发布会时间,产品细节尚未公布;可参考的是 RTX Spark 平台规格:20 核 Grace CPU 加 6144 CUDA 核心 Blackwell GPU、128GB 统一内存、1petaFLOP AI 性能,以及本地运行 1200 亿参数、百万 token 上下文模型的宣称。关注端侧大模型部署的开发者可据此判断本地推理的硬件门槛,但实际性能与 AI SSD 卸载效果仍需等发布后验证。
来源:IT之家 · ithome.com