跳到正文
The Verge · AI· Antonio G. Di Benedetto·· 3 小时前AI 评分22

在本地跑 AI 有多折腾:用 M5 Ultra Mac Studio 和 Hermes Agent 实测本地 LLM

Learning to use local AI is exciting, overwhelming, and frustrating

AI 导读

The Verge 编辑在 M5 Ultra Mac Studio(256GB 统一内存)上安装开源桌面智能体 Hermes Agent,并运行 125B 参数、约 105GB 的 Qwen 3.8 Flash Next 本地模型。他用它生成每日简报、按类型整理 400 多款 Steam 游戏、分析财务记录,并正尝试自动化笔记本跑分测试。

来源:The Verge · AI · theverge.com