纳德拉发帖呼吁AI模型需紧急制动

微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险，称不能再接受把 AI 当作一组嵌套黑盒、只能接受或拒绝其建议与行为。他主张建立更透明的体系，让模型可被隔离、观察并留下防篡改的人类可读证据，并提出应假定模型已被攻陷、从一开始就加以隔离，授权者应能随时暂停或关闭执行中的模型。他还提到更先进的模型需要更先进的隔离技术并应加以标准化，文中多处将 AI 称为超级智能。

微软 CEO Satya Nadella 在 X 上发文称，应重新审视 AI 的信任架构，把模型与编排其工作的 harness 分离，并将控制与保障措施外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据，并让授权人员能随时暂停或关闭执行任务中的模型，称要假设模型已被攻陷并从一开始就加以约束，就像紧急刹车。