跳到正文
arXiv Artificial Intelligence· Ahasan Kabir, Mengxin Zheng, Qian Lou·· 17 小时前AI 评分38

INFRAMIND:面向服务负载的多智能体编排框架

INFRAMIND: Infrastructure-Aware Multi-Agent Orchestration

AI 导读

INFRAMIND 是一个分层策略框架,让多智能体 LLM 系统根据服务负载动态调整协作图与推理策略。在五模型共享部署的五个基准上,其低负载准确率最高提升 7.6 个百分点;在 500 道 MATH 题、10-300 秒截止时间下,按时答对比例从 20.4% 升至 33.8%。在 15 模型与 Azure 时延回放设置下,该比例相对 MasRouter 从 11.6% 升至 54.8%。

来源:arXiv Artificial Intelligence · arxiv.org