跳到正文
原文
OpenAI:官网动态·· 8 天前AI 评分43

GPT-6 改进提示词缓存

Better prompt caching for GPT-6

AI 导读

GPT-6 改进了提示词缓存,带来更高的缓存命中率、新增的诊断能力与显式断点,以及可降低延迟和成本的控制项。这些改动让开发者能更清楚地排查缓存行为并控制推理开销。

来源:OpenAI:官网动态 · openai.com