跳到正文
arXiv Artificial Intelligence· Quanyan Zhu·· 18 小时前AI 评分27

面向智能体 AI 的计算反思均衡:一个罗尔斯式对齐治理支架

Computational Reflective Equilibrium for Agentic AI: A Rawlsian Alignment Scaffold for Governance

AI 导读

研究提出智能体反思均衡(ARE),一个嵌入 agent harness 的计算反思均衡框架,将系统提示词与运营方政策中的原则、审慎判断、工具证据和候选动作通过带类型的支持与攻击关系连接,并用溯源编码指令层级。

来源:arXiv Artificial Intelligence · arxiv.org