跳到正文
原文
OpenAI News·· 8 天前AI 评分40

GPT-6 的提示词缓存如何改进

Better prompt caching for GPT-6

AI 导读

GPT-6 改进了提示词缓存,通过更高的缓存命中率、新增诊断功能、显式断点及控制选项,降低延迟与成本。这些改进涵盖缓存命中、诊断与控制,原文未提供具体性能数据或成本降幅。

来源:OpenAI News · openai.com