Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型发布

Anthropic 在本月 15 日致加州州长纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成"严重风险"的 AI 模型发布。Anthropic 认为要求开发者设置关闭整个模型的"紧急关闭开关"可能带来虚假安全感，更倾向于关闭出问题的 AI 智能体、暂停特定客户使用权限等针对性措施。OpenAI 也于 10 月 20 日向纽森提交了建议。