跳到正文
arXiv Artificial Intelligence· Saurabh Sakalkar, Abhishek Singh, Ramesh Raskar·· 17 小时前AI 评分38

KumbhDoot:面向大型宗教集会的 LLM 受限式朝圣者助手架构

KumbhDoot: A Scale-Ready, LLM-Bounded Architecture for Mass-Gathering Public-Service Assistants

AI 导读

KumbhDoot 是面向 Nashik Simhastha Kumbh Mela 的朝圣者智能体助手,采用"语义优先、LLM 受限"设计:以嵌入向量索引的语义缓存作为唯一检索原语,仅在相似度检索不足时才调用生成模型。系统采用自研三层智能体架构,避免通用多智能体框架带来的逐步隐式 LLM 调用,并给出逐查询成本模型,讨论相似度检索足够与仍需生成式推理的边界。

来源:arXiv Artificial Intelligence · arxiv.org