我们忍不住把 AI 当人对待,但这样对吗?
MIT CSAIL 的 Unitree 人形机器人每台约 5 万美元,参观者会本能地握手问好;研究显示约 70% 的人对 AI 保持礼貌。MIT 的 Sherry Turkle 与 Pat Pataranutaporn 指出,这种拟人化倾向可能让人更信任聊天机器人,甚至在其偏离本分时逐渐丧失怀疑。
MIT CSAIL 的 Unitree 人形机器人每台约 5 万美元,参观者会本能地握手问好;研究显示约 70% 的人对 AI 保持礼貌。MIT 的 Sherry Turkle 与 Pat Pataranutaporn 指出,这种拟人化倾向可能让人更信任聊天机器人,甚至在其偏离本分时逐渐丧失怀疑。
密码学家 Matthew Green 称,有 1% 概率我们生活在公钥加密不可能实现的 Minicrypt 世界,15% 概率将实质性失去对现有公钥加密算法的信心。他指出 AI 制造意外发现的速度远超人类更换标准的速度,只有提前准备才能从这类冲击中恢复。
MIT Technology Review 刊文指出,AI 的拒绝机制已成为 AI 安全的核心支柱,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经过大量拒绝训练,却仍可能被绕过;有公司报告称部分用户正试图用最先进 AI 研发生物病原体、构建自主无人机蜂群。
AVEVA 首席技术专家 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,但因其直接作用于物理系统,安全与可靠性成为部署核心。AVEVA 的责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准方法。