跳到正文
arXiv Artificial Intelligence· Nikolaos Kekatos, Michael Ioannou, Panagiotis Katsaros, Alexios Lekidis, Theodoros Nestoridis, Tom Nianios, Dimitrios Nikou·· 19 小时前AI 评分22

面向 LLM 辅助 ISR 集群的任务级运行时保障:基于验证感知消息织物的三层组合验证框架

Mission-Level Runtime Assurance for LLM-Assisted ISR Swarms over a Verification-Aware Fabric

AI 导读

研究提出平台/小队/任务三层组合式运行时验证框架,将任务策略分解为单智能体与跨智能体切面,在验证感知消息织物上聚合各平台判定,并用安全×完整性双轴代数融合,溯源可指出共同触发违规的平台。在模拟 ISR 任务中,一次间接提示注入让真实 LLM 规划器把违禁采集任务拆分到四个平台,各平台监控均未发现,组合验证却完整检出;注入故障下尽力而为的集中监控会静默误报全域正常,该织物则不会。

来源:arXiv Artificial Intelligence · arxiv.org