Hacker News · AI 与工程·· 4 小时前AI 评分71
Google 发布 TPU 8tx 与 8i Max,面向机密推理与超长上下文
Our newest TPUs: 8tx and 8i Max, built for the agentic era
AI 导读
Google 扩展第八代 TPU 产品线,新增 TPU 8tx 和 TPU 8i Max,一年内共推出四款 TPU 系统。
推荐理由模型分析
Google 在第八代 TPU 中新增 8tx 与 8i Max 两个系统,分别针对硬件级机密推理和百万 token 级长上下文,并配套开源 TorchTPU、TPU Sync、XLA Serving Engine 等软件栈。关注 Agent 推理部署成本、KV cache 分层与 PyTorch 迁移路径的团队,可据此比较不同系统在延迟、内存带宽和机架密度上的取舍。文中性能数字多为与上一代或 TPU 8t 的对比,实际效果仍取决于具体工作负载。
来源:Hacker News · AI 与工程 · blog.google