Coral:异构云GPU多LLM服务系统
热点事件持续更新
Coral:异构云GPU多LLM服务系统
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月20日,arXiv Artificial Intelligence 刊出 Yixuan Mei 等作者的论文,提出面向异构云 GPU 的自适应多 LLM 服务系统 Coral。报道称,该系统通过联合优化资源分配与副本服务策略来降低服务成本,其无损两阶段分解在保持联合最优性的同时,将在线求解时间从数小时缩短至数十秒。在 6 个模型和 20 种 GPU 配置上的评测显示,Coral 相比最强基线最多降低 2.79 倍服务成本,在资源紧缺下 goodput 最高提升 2.39 倍。目前该事件仅有这一篇主报道,尚无跟进报道或相互矛盾的说法。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 12:00
Coral:面向异构云 GPU 的高性价比多 LLM 服务系统报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- arXiv Artificial IntelligenceCoral:面向异构云 GPU 的高性价比多 LLM 服务系统
Coral 是一个面向异构云 GPU 的自适应多 LLM 服务系统,通过联合优化资源分配与副本服务策略降低服务成本。其无损两阶段分解在保持联合最优性的同时,将在线求解时间从数小时缩短至数十秒。在 6 个模型和 20 种 GPU 配置上的评测显示,Coral 相比最强基线最多降低 2.79 倍服务成本,在资源紧缺下 goodput 最高提升 2.39 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。