跳到正文
今天10月10日周六3 条
10月9日周五
  1. MIT Technology Review · AI34

    我们是否过度信任 AI 说"不"的能力

    MIT Technology Review 刊文指出,AI 的拒绝机制已成为 AI 安全的核心支柱,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经过大量拒绝训练,却仍可能被绕过;有公司报告称部分用户正试图用最先进 AI 研发生物病原体、构建自主无人机蜂群。

10月8日周四
  1. MIT Technology Review · AI34

    机器人领域的 AI 突破短期内不会改变你的生活

    MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 未来能以每台低至 2 万美元自动化几乎所有人类劳动、并预测 2027 年底前向公众发售,但许多机器人研究者对此持怀疑态度。Yann LeCun 在达沃斯表示,没有任何一家人形机器人公司知道如何让机器人聪明到真正有用。

  2. MIT Technology Review · AI18

    AVEVA 如何为自主工业 AI 构建更安全的落地路径

    AVEVA 首席技术专家 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,但因其直接作用于物理系统,安全与可靠性成为部署核心。AVEVA 的责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准方法。

  3. Simon Willison12

    Ben Affleck 谈电影特效中的机器学习与卷积神经网络

    Ben Affleck 自称会写"相当糟糕的 Python 脚本",并解释视觉特效工作流多年来一直包含机器学习。他提到卷积神经网络是 Transformer 的前身,只是后者能同时进行更多计算,而张量是视觉图像在数值上的转换,包含批次号、帧号以及每帧每个像素的红绿蓝值。

10月7日周三
  1. Microsoft Research22

    Microsoft 研究:AI 评测为何在传统 benchmark 之外出现“意外失败”

    Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学转向计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。

10月5日周一
  1. MIT Technology Review · AI26

    人们一边痛恨 AI,一边又离不开它,这是为什么?

    调查显示,美国成年人中认为 AI 对个人和社会影响负面者已多于正面,71% 反对在本地新建 AI 数据中心,但 ChatGPT 在 5 月月活突破 10 亿,Gemini 7 月达 9.5 亿,半数美国成年人已使用聊天机器人。作者认为,人们反感的不是技术本身,而是科技公司无孔不入的推销方式,而全美 50 州已通过或提出逾 2100 项 AI 法案,开源替代方案也提供了更多选择空间。

9月25日周五
9月18日周五
  1. GitHub Blog · AI & ML22

    GitHub Podcast 拆解 AI 热门观点:该不该读 AI 生成的代码、RAG 是否已死、Skills 是否杀死了 MCP

    GitHub Podcast 最新一期拆解了五个 AI 热门观点:AI 生成的代码仍需阅读和负责,只是审查力度应按风险分级;Skills 与 MCP 解决不同问题,前者是打包的团队经验,后者是智能体连接工具与数据的标准;RAG 并未死亡,检索能让模型从更接近答案的位置起步,减少 token 消耗和回答不完整。节目还讨论了企业招聘中的 AI 使用判断力,以及微调需求往往暴露的是代码库可维护性问题。

7月7日周二