arXiv Artificial Intelligence· Saad Ahmed Bazaz, Talha Amjad, Abdurrehman Subhani, Sohaib Ahmed Bazaz, Abdullah Aamir·· 2 天前AI 评分47
Grayhat Developers 如何自托管 AI 与工具栈:混合部署实践
Create Your Own Work Stack: Deploying Self-hosted AI and Tooling in a Tech Startup
AI 导读
Grayhat Developers 报告了在小型软件公司部署混合 AI 栈的经验:商业 Claude/Codex 每月约 325 美元、记录超 25.93 亿 token,因本地开源模型性能与推理速度不足,改为商业智能体处理复杂任务、本地模型承担低复杂度任务及与 Outline、Plane、ERPNext 同步。
来源:arXiv Artificial Intelligence · arxiv.org