前缀缓存

命中条件

• ·messages 的前缀完全一致（含 system 提示词与顺序）。
• ·前缀长度不少于 1024 token。
• ·两次请求间隔在缓存有效期内，通常为 5 到 60 分钟。

怎么提高命中率

• ·把固定的系统提示词、文档上下文放在最前面，变化的用户输入放最后。
• ·不要在提示词里插入时间戳、随机 id 这类每次都变的内容。
• ·RAG 场景可把检索结果按稳定顺序拼接。