AWS 详解 Bedrock 上 OpenAI 模型提示缓存双模式
先了解这件事
2026年10月27日，AWS Machine Learning Blog 发文，AGI Hunt 同步报道，详解 AI 智能体在 Amazon Bedrock 上调用 OpenAI 模型时如何使用提示词缓存：复用工具定义、指令与历史上下文，避免每轮重发全部上下文，从而只对新增 token 付费、降低输入成本。文章称缓存分隐式与显式两种模式，显式模式通过 prompt_cache_breakpoint 标记前缀，前缀长度需达到 1,024 tokens。测试中约 4,000-token 的前缀首次写入计为 4,120 tokens，后续请求则直接读取这 4,120 tokens。目前公开信息仍属 AWS 的技术说明，事件仍在持续。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- AGI HuntAWS 详解 Agent 提示缓存：显式+隐式双模式省下重复 token 账单
AWS ML Blog 详解在 Amazon Bedrock 上用 OpenAI 模型的 agent 如何通过 prompt caching 复用前缀 KV 状态，只为新增 token 付费。
- AWS Machine Learning BlogAI 智能体的“土拨鼠之日”：Amazon Bedrock 上 OpenAI 模型的提示词缓存模式
AI 智能体在 Amazon Bedrock 上调用 OpenAI 模型时，可用提示词缓存复用工具定义、指令与历史，避免每轮重发全部上下文并降低输入成本。缓存分隐式和显式，显式用 prompt_cache_breakpoint 标记前缀，前缀需达 1,024 tokens；测试中约 4,000-token 前缀首次写入 4,120 tokens，后续请求直接读取这 4,120 tokens。
本事件热度走势
当前热度 19·可比范围峰值 19（10月27日 03:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。