在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式：让 AI 智能体告别“土拨鼠之日”

在 Amazon Bedrock 上调用 OpenAI 模型时，提示词缓存可复用已保存的输入前缀，避免智能体每轮重复发送工具定义、指令和历史。可复用前缀需达到 1,024 tokens；测试中约 4,000 tokens 的工具与指令前缀首次写入 4,120 tokens，后续请求直接读取。缓存分隐式与显式两种，显式模式用 prompt_cache_breakpoint 标记边界，两者可结合使用。