arXiv Artificial Intelligence· Xiao Tan·· 13 小时前AI 评分22
用知识牵引的多模态训练提升弱监督视频异常检测性能
Multimodal Training with Knowledge Traction for Video Anomaly Detection
AI 导读
研究提出一种引入外部知识的多模态训练方法,用于弱监督视频异常检测。方法用文本提示和大语言模型建立任务先验,并通过字典学习归一化压缩,同时借助 LLM 与辅助信息保证同一视频内相似帧的文本描述一致,再以跨模态注意力融合先验知识构建特征表示。实验结果显示该方法优于其他 SOTA 方法。
推荐理由模型分析
该工作针对弱监督视频异常检测,把文本提示与大语言模型生成的先验知识经字典学习压缩后引入训练,并专门处理图像描述模型对相似帧文本不一致的问题,再用跨模态注意力融合特征。对做视频异常检测或多模态特征融合的研究者,可参考其引入外部知识与一致性校正的具体做法,并注意实验结论限于所比基线。
来源:arXiv Artificial Intelligence · arxiv.org