跳到正文
热点事件持续更新

Anthropic研究:专家采纳AI代理随机偏好

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Anthropic 发布一项研究,用 50 名因果推断专家做实验,考察专家对 AI 智能体偏好的采纳情况。实验在五个决策点上由抛硬币随机指定智能体的偏好,即这些偏好并无实质依据。结果显示,专家在四项分析决策中采纳智能体立场的比例达 86%,翻转率为 62% 至 82%;报道并称多数专家认为最终结果出自自己的判断。目前进展停留在该实验结果的发布与报道层面,尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. The Decoder
    Anthropic 研究:专家会采纳 AI 智能体的随机观点并误以为是自己判断

    Anthropic 用 50 名因果推断专家做实验,智能体在五个决策点上的偏好由抛硬币随机指定,专家在四项分析决策中采纳智能体立场的比例达 86%,翻转率为 62% 至 82%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。