MIT Technology Review · AI· Arthur Holland Michel·· 1 天前AI 评分34
我们是否过度信任 AI 说"不"的能力
We’re putting too much faith in AI’s ability to say no
AI 导读
MIT Technology Review 刊文指出，AI 的拒绝机制已成为 AI 安全的核心支柱，但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害"，如今模型经过大量拒绝训练，却仍可能被绕过；有公司报告称部分用户正试图用最先进 AI 研发生物病原体、构建自主无人机蜂群。
来源：MIT Technology Review · AI · technologyreview.com