跳到正文
arXiv Artificial Intelligence· Saad Ahmed Bazaz, Talha Amjad, Abdurrehman Subhani, Sohaib Ahmed Bazaz, Abdullah Aamir·· 2 天前AI 评分47

Grayhat Developers 如何自托管 AI 与工具栈:混合部署实践

Create Your Own Work Stack: Deploying Self-hosted AI and Tooling in a Tech Startup

AI 导读

Grayhat Developers 报告了在小型软件公司部署混合 AI 栈的经验:商业 Claude/Codex 每月约 325 美元、记录超 25.93 亿 token,因本地开源模型性能与推理速度不足,改为商业智能体处理复杂任务、本地模型承担低复杂度任务及与 Outline、Plane、ERPNext 同步。

来源:arXiv Artificial Intelligence · arxiv.org