跳到正文
arXiv Artificial Intelligence· Brian B. Moser, Stanislav Frolov, Tobias C. Nauen, Federico Raue, Andreas Dengel·· 2 小时前AI 评分39

自我改进问题:AI 智能体自动更新审核的理论边界

The Self-Improvement Problem

AI 导读

研究将智能体建模为程序,用可能不可计算的语义分数定义"改进",证明在完全通用设定下不存在同时保证可靠性与非保守性的终止性审核或搜索程序,自指构造可令任何此类门控失效,有界误差的随机门控同样受限。在有限评估与有限提案预算的可判定场景下,穷举模拟可恢复具备所需保证的终止搜索,但被接受更新的链条仍可能每轮抬高有界分数而真实分数下降。

来源:arXiv Artificial Intelligence · arxiv.org