arXiv Artificial Intelligence· Michaela Benk, Kacper Sokol·· 19 小时前AI 评分22
信任阻碍人机双向对齐：NeurIPS 2026 工作坊论文提出 AI 辅助决策三维度
Trust Hinders Bidirectional Human-AI Alignment
AI 导读
一篇 NeurIPS 2026 工作坊论文认为，以信任校准为核心的 AI 辅助决策框架过度限制了"借助 AI 做决策"的含义，并提出三个维度：信任 AI 只是管理不确定性的多种策略之一；当 AI 面对目标与状态仅部分可知或不可知的"大世界"决策问题时，信任校准常被误用；此类情境下的人机对齐需处理更高阶的决策过程。作者据此呼吁设计面向过程的人机耦合系统，在决策任务中共同识别与协商不确定性。
来源：arXiv Artificial Intelligence · arxiv.org