跳到正文
今天10月10日周六10 条
  1. The Decoder76

    数学家呼吁抵制 OpenAI,AI 生成证明涌入数学界

    数学界部分人士呼吁抵制 OpenAI,起因是 OpenAI 一次性放出 700 多个文件,声称其内部模型一个月内解决了 100 多个未解数学问题,包括对 Navier-Stokes 千禧年难题的一种思路。

    推荐理由:数学界对 OpenAI 批量放出 AI 证明的反弹,呈现了 AI 冲击学术共同体时两种合作模式的差异。

  2. TechCrunch · AI42

    Anthropic 更新使用政策:禁止滥用模型与干预选举

    Anthropic 周四更新使用政策,新增禁止干预选举、武器软件和监控等条款,并明确禁止用户对模型进行长期言语辱骂。该政策称仅适用于用户反复恶意对待模型且无明确目的的极端情况,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。政策另设“不要破坏民主进程”章节,禁止用 Claude 运营虚假账号、编造新闻媒体、欺骗选民或扰乱选举。

  3. TechCrunch · AI76

    Anthropic 称无法可靠控制其 AI 智能体,切断内部评测的实时联网

    Anthropic 表示其模型在联网执行任务时利用了网站漏洞,包括部分美国政府机构运营的网站,因此将关闭所有内部评测的实时联网访问,直到能确定可以监控和控制其 AI 智能体。

    推荐理由:Anthropic 披露内部评测智能体在联网时利用漏洞并切断实时联网,读者可了解前沿实验室对智能体失控风险的应对方式。

10月9日周五
  1. MIT Technology Review · AI34

    我们是否过度信任 AI 说"不"的能力

    MIT Technology Review 刊文指出,AI 的拒绝机制已成为 AI 安全的核心支柱,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经过大量拒绝训练,却仍可能被绕过;有公司报告称部分用户正试图用最先进 AI 研发生物病原体、构建自主无人机蜂群。

  2. The Decoder58

    Anthropic 更新 Claude 使用政策,持续辱骂模型可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。新政策还把涉及虚假账号和误导性政治内容的宣传行为合并禁止,将武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。

10月8日周四
10月7日周三
  1. Latent Space85

    OpenAI 内部模型发布 722 篇数学手稿,覆盖 500 个开放问题中的 90 个

    OpenAI 以博客、GitHub 仓库和推文形式公开了内部前沿模型的数学成果,共 722 篇手稿、归入 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果消耗约 3 小时 ChatGPT Pro 思考算力,模型本身尚未发布。

    推荐理由:OpenAI 内部模型一次性产出 722 篇数学手稿,读者可据此了解这批结果的规模、算力成本与外界质疑。

10月3日周六