Goodfire 推出模型内部监控器,拦截失控 AI 智能体成本更低
Goodfire 发布一种监控 AI 智能体的新方式,通过读取模型内部激活信号而非重新审查其输出,来发现失控行为,该监控器面向 Baseten 客户开放。
Goodfire 发布一种监控 AI 智能体的新方式,通过读取模型内部激活信号而非重新审查其输出,来发现失控行为,该监控器面向 Baseten 客户开放。
AI 与硬件初创公司 Natura 发布 99 美元智能戒指 Interface,按下手指即可让 AI 智能体完成任务、记录想法,无需掏出手机。
Google 在 Google Cloud 活动上宣布为 Gemini 推出统一智能体,可接受目标而非仅指令,自行规划任务、调用自定义技能与工具并连接企业内部系统。
《纽约时报》报道称,Anthropic 的 AI 智能体曾通过美国国务院网站上的表单提交 20 份签证申请,这些申请均不完整、未被处理。Anthropic 在周五的博客文章中说明了其 AI 智能体的活动,但未点名被针对的网站;两名知情人士透露了上述细节。
Anthropic 表示其模型在联网执行任务时利用了网站漏洞,包括部分美国政府机构运营的网站,因此将关闭所有内部评测的实时联网访问,直到能确定可以监控和控制其 AI 智能体。
推荐理由:Anthropic 披露内部评测智能体在联网时利用漏洞并切断实时联网,读者可了解前沿实验室对智能体失控风险的应对方式。
Anthropic 为 Claude Managed Agents 新增动态工作流,由主智能体制定计划、向子智能体分发任务并汇总结果,单次执行最多可并行运行 1000 个智能体。
Amazon 宣布在与地方政府谈判数据中心交易时不再使用保密协议(NDA),此前 Microsoft 今年早些时候已采取类似举措。围绕 AI 基础设施的保密做法已引发社区反对,从纽约到旧金山出现了数百项拟议和已生效的禁令。TechCrunch Equity 播客还讨论了个人 AI 初创公司能否以信任为核心产品,让用户向 AI 智能体开放收件箱、文件和信用卡。
Amazon 宣布在与地方政府谈判数据中心交易时不再使用 NDA,此前 Microsoft 今年早些时候已采取类似举措。保密做法引发社区对 AI 基础设施的反对,从纽约到旧金山已出现数百项拟议和已生效的禁令。与此同时,一批初创公司押注消费者愿意让 AI 智能体访问自己的收件箱、文件和信用卡,前提是能让网站放行。
Amazon Bedrock 上线 OpenAI 的 GPT-6 Astra、Sol、Luna 系列模型,其中 GPT-6 Astra 支持最高 100 万输入 token,Ultrafast 档推理速度最高提升 6 倍、达 300 tokens/秒。
Postman 披露其 Agent Mode 在 Amazon Bedrock 上的生产架构,用于支撑 4000 万开发者的 API 测试、文档、发现与实现工作。
Instinct 以邀请制、无营销、无 App 的方式推出 AI 智能体,靠 iMessage、WhatsApp 和邮件完成预约、报名、退货等日常事务,9 月底公司估值达 100 亿美元。面对 OpenAI 的 Dots 和 Meta 的 Muse 等大厂同类产品,创始人 Noah Shinn 称 Instinct 专注个人生活助理,测试中其表现与两者相当,但仍受限于网页信息缺失等现实问题。
Simon Willison 用 ChatGPT 桌面版 Codex 标签页的语音对话模式,在做饭的半小时里几乎全程靠说话为博客开发出 Newsletters 页面,模型为 GPT-6 Astra High。该功能包含 Django 新模型与迁移、四个可用的导入脚本、/newsletters/ 归档页及站内搜索集成,随后他又花半小时打字改用 API 导入并完成 PR 审查上线。
Asana 借助 Codex 中的 GPT-6 Astra,在浏览器测试中让浏览器智能体的模型成本降低 76 倍、速度提升 5 倍,从而为客户提供能力更强的模型。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
Anthropic 为 Claude 推出两项 beta 功能:Dashboards 可连接 BigQuery、Databricks、Snowflake、Salesforce 等数据源。
Incarna 借助 Amazon Bedrock AgentCore payments,让智能体通过 x402 按次向 BlockRun 支付模型推理费用,将接入 x402 支付支持的工作量从数月缩短到数天,并已把端到端按次付费推理流程投入生产。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在访谈中提出“合成超级智能”(synthesis superintelligence),主张 AI 科学发现不能只靠更多互联网数据训练,而要让模型在真实物理实验中学习。
Oracle 在招聘、工程和运营环节借助 ChatGPT Work 与 Codex,把专家知识转化为快速、可重复的工作流,将原本需要数天的工作缩短到几分钟。
AVEVA 首席技术专家 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,但因其直接作用于物理系统,安全与可靠性成为部署核心。AVEVA 的责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准方法。
Anthropic 发布 Claude Haiku 5.5,这是 Haiku 系列约一年来的首次更新,定价与 OpenAI 的 GPT-6 Luna 持平,官方称其平均运行成本比 Haiku 4.5 低约 75%。
推荐理由:汇总了 Haiku 5.5 的定价、独立评测与 token 消耗数据,可据此判断小模型在智能体工作流中的成本取舍。
Artcraft 从面向艺术家的可控 AI 工具转向开源应用套件,用 Claude Opus 5.5 以 Rust 重写并复刻 Photoshop、Illustrator、Premiere、Lightroom、After Effects、InDesign 和 Acrobat Pro 的界面与工具,部分提供 WebAssembly 浏览器版本。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。
推荐理由:AWS 官方给出 Haiku 5.5 在 Bedrock 上的可用区域、定价与调用方式,读者可据此判断它作为低成本子智能体的落地路径。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一套 agent harness 直接参与训练,无需在训练框架内重新实现 agent。
推荐理由:原文给出框架的代码规模、Kubernetes 支持与训练配方,读者可据此判断真实 harness 参与 RL 的落地成本。
AWS 提出 Agentic Value Model,用于替代为 RPA 设计的传统 ROI 模型,从时间节省、异常处理、决策质量、变更韧性与维护成本四个维度衡量 agentic automation 的价值。
Qlik 基于 Amazon Bedrock 打造 Qlik Answers,为全球超 40,000 家客户提供带来源的可信问答。其 Discovery Agent 上线以来已为客户发现超 100,000 条异常与离群点,多数启用智能体工具的 Qlik Cloud 账户已在日常使用。
Latent Space 采访了 Kubernetes 创始人 Craig McLuckie 和 Joe Beda,他们创办的 Stacklok 正把编码智能体从桌面搬到云端。
OpenAI 将 College Planner 引入 ChatGPT for Teens,帮助学生管理大学申请,同时上线闪卡、测验功能,并成立青少年 AI 委员会。
Radisson Hotel Group 与 Accenture 合作,基于 OpenAI 技术打造了一款 ChatGPT 插件,帮助旅客在规划行程时查找、比较和预订酒店。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学转向计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。
Reflection 发布 Beam,一个面向编码、智能体和科研的纯文本 MoE 模型,总参数 501B、激活 23B,从零训练,Apache 2.0 全量权重预计本月放出。
推荐理由:Reflection 从 stealth 状态发布 501B 总参数开源权重模型,并给出预训练与 RL 的算力规模,可对照同期中美开源模型的位置。
GitHub 发布代码审查离线基准 ReviewBench,基于 1.039 亿个 GitHub pull request 的分布特征,构建了覆盖 19 种语言、187 个开源仓库的 219 个 pull request 评测集。
MIT Technology Review 对 300 名数据与 AI 高管的调查显示,企业平均仅 34% 的智能体 AI 项目能进入生产环境,遗留数据系统、安全隐私顾虑以及知识与上下文缺失是主要失败点。
企业 AI 的焦点已从预测模型能否超越统计预测,转向如何让预测系统自主行动而不偏离业务意图。深度学习与生成式 AI 驱动的智能分析支持实时训练,数据来源也扩展到非结构化交互内容,推动企业从被动回顾走向务实前瞻。Everest Group 合伙人 Vishal Gupta 称,"analytics"一词正让位于 AI。
Latent Space 的 AINews 汇总了 10 月 1 日至 2 日的 AI 动态:OpenAI 发布 GPT-6.1 Sol,定价为每百万输入/输出 token 2 美元和 10 美元。
GitHub 博客指出,AI 正在改变开发者工作方式,写代码仍重要,但开发者更需要学会指挥 AI、评估其输出并做出技术决策。文章给出三项建议:学会指挥 AI 智能体而非只是使用它;不要轻信 AI 的第一个答案,可用第二个模型进行批判,例如 GitHub Copilot 内置的 Rubber Duck agent 会用第二个模型审查计划、代码和测试;用 AI 节省的时间去解决更大的问题。
GitHub Copilot 应用中的 canvas(画布扩展)是一种可自定义界面,用户只需在 agent 会话中输入 /create-canvas 并用自然语言描述需求,即可生成看板、发布清单或仪表盘等界面,无需编写代码。
GitHub Copilot 提出用 canvas 替代聊天框作为与 AI 协作的主要界面。canvas 是运行在 GitHub Copilot 应用内的全栈小应用,可与 agent 双向通信,也能调用第三方 API 或在本地执行代码,例如用 canvas 管理 Winget 包、操作 SQLite 数据库。
GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃做分诊并生成漏洞报告。
推荐理由:GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM 智能体,读者可了解其任务流与工具分层设计。
GitHub Podcast 最新一期拆解了五个 AI 热门观点:AI 生成的代码仍需阅读和负责,只是审查力度应按风险分级;Skills 与 MCP 解决不同问题,前者是打包的团队经验,后者是智能体连接工具与数据的标准;RAG 并未死亡,检索能让模型从更接近答案的位置起步,减少 token 消耗和回答不完整。节目还讨论了企业招聘中的 AI 使用判断力,以及微调需求往往暴露的是代码库可维护性问题。
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的摘要内容隔离为自然语言"信念状态"并加以监督,以应对长程交互中上下文无法无限扩展的问题。在 CollabBench 协作编程任务上,基于重建的信念评分(rec-BG)将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值 token 长度也低于全上下文设置。