Amazon Bedrock 上 OpenAI 模型提示缓存模式介绍

2026年10月27日，AWS Machine Learning Blog 发布由 Claudio Mazzoni 撰写的教程，介绍在 Amazon Bedrock 上调用 OpenAI 模型时使用提示词缓存的模式。文章称，提示词缓存可让智能体复用已保存的输入前缀，避免每轮重复计费；测试中约 4,000 token 的工具与指令前缀首次写入为 4,120 token，后续请求直接读取这 4,120 token。缓存分隐式与显式两种，可组合使用。文章给出的条件包括：可复用前缀需达到 1,024 token；缓存前缀最短存活时间为 30 分钟，成功复用会刷新，也可能保留更久；复用已有缓存内容需同一模型、同一 AWS 账户和同一区域，且存在匹配前缀；缓存写入费用为正常输入费率的 1.25 倍。目前该事件仅有这一篇主报道，尚无跟进报道或矛盾信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。