arXiv Artificial Intelligence· Maud van Lier, Ludovica Marinucci, Vieri Giuliano Santucci, Raja Chatila, St\'ephane Doncieux, \'Emiland Garrab\'e, Richard Duro·· 18 小时前AI 评分29
研究提出"可接受失准"概念:完全对齐在理论与实践上均不可能
Acceptable Misalignment
AI 导读
针对自主机器人开放学习中的价值对齐问题,研究论证完全对齐在理论和实践上均不可能,失准事件将持续发生,因此最大化对齐的思路无法应对对齐方法实施后残余的失准风险。作者提出视角应从最大化对齐转向使失准事件变得可接受,引入"可接受失准"概念,为对齐机制制定规范要求,并给出满足这些要求的新方法框架。
来源:arXiv Artificial Intelligence · arxiv.org