跳到正文
The Decoder· Maximilian Schreiner·· 5 小时前AI 评分58

Google 一年内交付四种 TPU 系统,新增 TPU 8tx 与 TPU 8i Max

Google ships four TPU variants in one year as it ramps up competition with Nvidia

AI 导读

Google 在第八代 AI 加速器阵容中新增 TPU 8tx 和 TPU 8i Max 两种系统,并称这是首次在一年内交付四种 TPU 系统。TPU 8tx 面向机密计算,称数据与模型权重在使用过程中保持加密隔离;TPU 8i Max 在单个封装上放两颗 TPU 8i,使同一机架格式下算力、内存和内存带宽翻倍。

推荐理由模型分析

Google 在同一代 TPU 芯片上通过封装、网络和内存配置衍生出面向机密计算与内存密集负载的两种系统,并称一年内交付四种 TPU 系统。文中给出 TorchTPU 开源、vLLM 与 SGLang 支持等迁移条件,可供评估 TPU 部署的团队参考,但性能数字均为 Google 自述。

来源:The Decoder · the-decoder.com