arXiv Artificial Intelligence· Simon Kohaut, Felix Divo, Navid Hamid, Benedict Flade, Julian Eggert, Devendra Singh Dhami, Kristian Kersting·· 3 小时前AI 评分31
Constitutional Controller（CoCo）：用“自我怀疑”校准合规智能体的神经符号框架
The Constitutional Controller: Doubt-Calibrated Steering of Compliant Agents
AI 导读
研究者提出 Constitutional Controller（CoCo）框架，通过深度概率逻辑程序对约束进行推理，提升自主智能体在不确定环境中的安全性与合规性。该框架引入“自我怀疑”概念，以速度、传感器、健康因素等怀疑特征为条件的概率密度实现校准。在真实空中移动研究中，CoCo 让智能体学会恰当的怀疑并安全合规地导航复杂环境。
来源：arXiv Artificial Intelligence · arxiv.org