AWS发布OpenAI模型提示缓存模式

1. 01:27
   AWS Machine Learning Blog精选

   AWS博客：使用提示缓存模式优化Amazon Bedrock上的OpenAI模型智能体

   AWS发布关于在Amazon Bedrock上使用OpenAI模型时应用提示缓存模式的教程，解决了智能体每次行动都需要重新读取全部上下文的问题。通过缓存静态内容（工具定义和指令）和动态内容（对话历史），可显著降低推理成本，测试显示GPT-6 Astra模型在使用缓存后输入成本降低62%。文章详细介绍了显式和隐式缓存模式的使用方法，以及如何处理工具变更、子代理和会话重启等情况。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。