arXiv Artificial Intelligence· Benjamin Lange·· 19 小时前AI 评分22
AI 对齐与信义义务:开发者对用户应负的四种责任
AI Alignment and Fiduciary Obligation
AI 导读
论文提出将信义义务理论应用于扩展型 AI 助手部署,认为用户与 AI 的每次交互都由开发者中介,开发者对系统行为、记忆和参与参数拥有自由裁量控制权。作者将忠诚、谨慎、诚信、坦诚四项信义义务映射为开发者与用户关系的对齐标准,并对应四类用户侧风险提出制度措施。该框架把对齐标准建立在开发者对用户的义务之上,而非用户-AI 交互应促进的价值观,且这些义务独立于用户是否受到实际伤害。
来源:arXiv Artificial Intelligence · arxiv.org