arXiv Artificial Intelligence· Lennart B\"urger, Piotr Komorowski, Moritz Weckbecker, Evgenii Kortukov, Aakriti Jain, Sebastian Lapuschkin, Wojciech Samek·· 20 小时前AI 评分52
研究显示 CoT 监控在 CoT 必要时仍可能失效
Chain of Thought Monitoring Can Fail Even When CoT Is Necessary
AI 导读
arXiv 论文指出，前沿实验室用 Chain of Thought（CoT）监控检测 AI 系统不当行为，但把监控失败归因于 CoT 对答案非必要的二分原则过于粗糙。
来源：arXiv Artificial Intelligence · arxiv.org