arXiv Artificial Intelligence· Alexander Loth, Martin Kappes, Marc-Oliver Pahl·2026-10-30 12:00· 17 小时前AI 评分30

JudgeGPT 与 RogueGPT：LLM 生成虚假信息的工业化欺骗与检测对抗

Industrialized Deception: The Collateral Effects of LLM-Generated Misinformation on Digital Ecosystems

AI 导读

研究团队构建了 JudgeGPT 与 RogueGPT 两个工具，形成研究人类如何感知和识别 AI 生成虚假信息的实验流水线。结果显示检测能力有所提升，但生成与检测之间的竞争仍在持续。论文还讨论了基于 LLM 的检测、接种式干预等缓解策略以及生成式 AI 的双用途性质。