Goodfire 推出模型内部监控器,拦截失控 AI 智能体成本更低
Goodfire 发布一种监控 AI 智能体的新方式,通过读取模型内部激活信号而非重新审查其输出,来发现失控行为,该监控器面向 Baseten 客户开放。
Goodfire 发布一种监控 AI 智能体的新方式,通过读取模型内部激活信号而非重新审查其输出,来发现失控行为,该监控器面向 Baseten 客户开放。
Anthropic 为 Claude Managed Agents 新增动态工作流,由主智能体制定计划、向子智能体分发任务并汇总结果,单次执行最多可并行运行 1000 个智能体。
Amazon Bedrock 上线 OpenAI 的 GPT-6 Astra、Sol、Luna 系列模型,其中 GPT-6 Astra 支持最高 100 万输入 token,Ultrafast 档推理速度最高提升 6 倍、达 300 tokens/秒。
Postman 披露其 Agent Mode 在 Amazon Bedrock 上的生产架构,用于支撑 4000 万开发者的 API 测试、文档、发现与实现工作。
Asana 借助 Codex 中的 GPT-6 Astra,在浏览器测试中让浏览器智能体的模型成本降低 76 倍、速度提升 5 倍,从而为客户提供能力更强的模型。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
Incarna 借助 Amazon Bedrock AgentCore payments,让智能体通过 x402 按次向 BlockRun 支付模型推理费用,将接入 x402 支付支持的工作量从数月缩短到数天,并已把端到端按次付费推理流程投入生产。
Amazon SageMaker HyperPod 多租户参考架构通过 AWS IAM Identity Center 集中认证、按团队划分的 SageMaker AI 域、Kubernetes 命名空间隔离、HyperPod Task Governance 公平分配资源,以及命名空间级成本分摊,让多个团队共享同一 HyperPod EKS 集群。
Oracle 在招聘、工程和运营环节借助 ChatGPT Work 与 Codex,把专家知识转化为快速、可重复的工作流,将原本需要数天的工作缩短到几分钟。
LegalOn 将 Codex 每日预估成本降低 65%,同时保持开发速度。其做法是按任务匹配 Astra、Sol 和 Luna,并对预算进行策略性管理。
Nvidia 正大力押注物理 AI,推出面向物理 AI 的全栈安全解决方案,目标指向更安全的 Robotaxi 和人形机器人。该方案目前已被多家机器人公司采用。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。
推荐理由:AWS 官方给出 Haiku 5.5 在 Bedrock 上的可用区域、定价与调用方式,读者可据此判断它作为低成本子智能体的落地路径。
Amazon Quick 与 Amazon Bedrock Knowledge Bases 新增实时 ACL 校验层,在查询时直接向 Google Drive 等权威源核实权限,与原有的预检索过滤组成两阶段方案。
GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器,用上下文判断非结构化密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。
推荐理由:GitHub 用九个季度数据说明密钥泄露与代码量同步增长,并给出把检测成本压到毫秒级的工程取舍。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一套 agent harness 直接参与训练,无需在训练框架内重新实现 agent。
推荐理由:原文给出框架的代码规模、Kubernetes 支持与训练配方,读者可据此判断真实 harness 参与 RL 的落地成本。
AWS 提出 Agentic Value Model,用于替代为 RPA 设计的传统 ROI 模型,从时间节省、异常处理、决策质量、变更韧性与维护成本四个维度衡量 agentic automation 的价值。
Qlik 基于 Amazon Bedrock 打造 Qlik Answers,为全球超 40,000 家客户提供带来源的可信问答。其 Discovery Agent 上线以来已为客户发现超 100,000 条异常与离群点,多数启用智能体工具的 Qlik Cloud 账户已在日常使用。
Latent Space 采访了 Kubernetes 创始人 Craig McLuckie 和 Joe Beda,他们创办的 Stacklok 正把编码智能体从桌面搬到云端。
微软研究院开发了一套端到端机器学习流水线,利用 L1 太阳风观测和 AE、Dst 指数预测,为美国本土 66,935 座变电站生成 30 至 60 分钟前的局地空间天气风险估计。
GitHub Copilot 提出用 canvas 替代聊天框作为与 AI 协作的主要界面。canvas 是运行在 GitHub Copilot 应用内的全栈小应用,可与 agent 双向通信,也能调用第三方 API 或在本地执行代码,例如用 canvas 管理 Winget 包、操作 SQLite 数据库。
GitHub Copilot 应用重建了 pull request 视图,用一个含 2,200 个文件、超 100 万行改动、400 多条行内评论的开源 PR 做压力测试。其做法是把文档高度拆成确定性的代码几何与动态块几何两个独立域:代码行高提前精确算出,评论等动态块按稳定 key 锚定到文件、行和侧,惰性测量并只做小幅修正,从而避免滚动跳变。
微软研究院对移动机器人操作负载做了首次系统性测量研究,发现把物理 AI 推理从机器人本体 GPU 卸载到边缘或云端 GPU,可提升任务成功率、支持更大模型并延长续航。
推荐理由:微软研究院首次系统测量机器人本体推理与边缘云端卸载的差异,给出任务成功率、电池续航与工具链的量化对比。
Google Private AI Compute 团队公布为 Private AI Compute 平台加入私有服务端记忆的技术方案,让 AI 助手在跨设备场景下保留长期上下文,同时维持端侧级隐私标准。
推荐理由:Google 公开了 Private AI Compute 的持久化服务端记忆方案,读者可了解云端 AI 如何在保留跨设备上下文的同时维持端侧级隐私。
Berkeley AI Research 与 IBM Research 将 K-Search 进化式内核搜索框架扩展到 MLX,新增结构化 CUDA-to-MLX 翻译层,让搜索以现有 CUDA 内核为知识库生成 Apple Silicon 内核。
推荐理由:原文给出跨平台内核迁移的具体方法与实测数据,读者可据此判断 CUDA 经验向 Apple Silicon 迁移的可行路径。
UC Berkeley 的 Aditya G. Parameswaran 等人提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分厂商低于 $0.10,数据系统需应对三大挑战:为智能体服务、运行智能体集群、由智能体构建。
伯克利 AI Research 发布综述,梳理并行推理从固定并行走向自适应控制的研究进展。现有方法如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS 及 ParaThinker、GroupThink、Hogwild!