前缀缓存，
与你的真实聊天成本

一分钟读完的账

1. 主流服务商对「与上一轮逐字相同的请求开头」自动按折扣计费：DeepSeek 折到全价的 2%，Anthropic、OpenAI、Google 约 10%，xAI、智谱、千问在 15-20%（2026-07-24 牌价）。不用申请，唯一条件是开头逐字节不变。
2. 命中率不是运气，是客户端行为：同模型、同 Key、逐字节相同的脚本，裸酒馆出厂 91.5%，我们修复前 46.5%。同样聊 15 轮，钱是 2.8 倍（2026-07 四方实测；修复后 89.9% 追平，已随版本发布）。
3. 同一个 App 里，角色卡结构又能让命中率差三倍：世界书全靠关键词触发的卡 22.6%，带两条常驻词条的卡 74.3%（修复前实测）。你的卡在替你决定账单。
4. 按同口径外推到 100 轮：46.5% 形态一场 ¥1.47，89.9% 形态 ¥0.39（DeepSeek V4 Flash）。历史越长差距越大：15 轮实测差 2.8 倍，100 轮拉到 3.8 倍。
5. 杀缓存的动作只有一类：让请求开头变了。四个实测病例：世界书注入位漂移、动态内容进了会被归并置顶的 system、插件洪水与中部注入、窗口顶满后的滑窗截断。
6. 输出 token 从来不吃缓存折扣。输出定价越高的模型，缓存能救的账单比例越小：同样把命中率从 46.5% 修到 89.9%，DeepSeek 的账单降 74%，Claude Sonnet 4.6 只降 60%，它的钱大头在 $15/M 的输出上。

前缀缓存是什么，折扣有多深

前缀缓存（prompt caching）是服务商的自动折扣：这一轮请求里、从第一个字节起与上一轮逐字相同的部分，按「缓存读价」而不是全价计费。DeepSeek 的缓存读价是全价输入的 2%，Anthropic、OpenAI、Google 约 10%。不用申请、不用改代码，响应的 usage 字段里直接回报这一次命中了多少。

角色扮演和长文聊天是这笔折扣的最大受益场景，因为每一轮都把全部历史重发一遍：第 100 轮时，前 99 轮的内容全是「重复前文」，理论上账单里九成以上的输入 token 都该按折扣价走。反过来，三五轮的短问答吃不到多少。缓存是长聊天的账单决定项，不是短问答的。

同一段聊天的四张账单：四方实测

2026 年 7 月我们跑了一场四方对比评测：裸酒馆（SillyTavern v1.18.0 出厂配置）、满配酒馆（社区最流行的预设加插件组合）、Foreverse 普通模式、Foreverse 智能演绎，同模型（deepseek-v4-flash）、同一把 Key、逐字节相同的 15 轮消息脚本，每次调用都经过同一个计量网关记账。第一个被抓出来的问题是我们自己的。

聊 100 轮，各花多少

把实测命中率代入与我们计算器完全同款的公式（起始 2,000 token 的角色卡与系统提示、每轮 120 token 输入加 350 token 回复、DeepSeek V4 Flash 2026-07-24 牌价），聊 100 轮的输入加输出总账如下。这是同口径的模拟外推，不是实测；实测数据是 15 轮那组，见上一节。

还有一个容易被忽略的账：输出 token 永远按全价计费，缓存只管输入。所以输出定价越高的模型，缓存能救的比例越小。同样的 100 轮换成 Claude Sonnet 4.6（输出 $15/百万 token），46.5% 档 $4.97、89.9% 档 $2.01：命中率同样的提升，账单只降 60%（DeepSeek 降 74%），因为它的钱大头在输出上。给输出贵的模型省钱，压回复长度比修缓存更先见效。

什么在杀你的缓存：四个实测病例

前缀缓存的失效条件只有一个：请求开头变了。下面四个病例全部来自我们自己的测量，其中三个就发生在自家产品身上，修复前后都有数字。

自查清单：六个杀缓存的习惯

每条按「症状、怎么查、怎么办」给。前四条查你自己的配置，后两条查你的供应商和会话长度。查证的第一步永远是拿到真实命中数：响应 usage 字段里就有，测不到就修不了。

1. 世界书几乎全是关键词触发，没有常驻条目。 查法：同一张卡连聊十几轮，逐轮看命中率是不是满地锯齿（我们的实测：全触发卡 22.6%，带常驻的 74.3%）。 动作：核心设定改常驻（酒馆的 constant/蓝灯），或者用会把激活过的词条驻留在场的客户端。
2. 时间戳、状态栏、每轮变化的内容写进了 system 或提示词头部。 查法：导出相邻两轮的请求体，diff 开头第一屏。有的模板会把消息流里的 system 全部归并置顶，「写在末尾」不等于「生效在末尾」。 动作：动态内容挪到最新一条用户消息附近，头部只放恒定内容。我们两条链这么改完，稳定态命中从 53%/58% 回到 96% 以上。
3. 用了往历史中部插内容的机制：深度注入、作者注中部深度、每轮刷新的向量检索或滚动摘要。 查法：看插件文档里有没有提缓存，认真的插件会自己警告；再不然就看装上前后的命中率差（裸酒馆配骰子：91.5% 到 39.8%）。 动作：能改深度就把注入改到尾部；改不了就接受这笔税，至少别再叠第二个同族机制。
4. 频繁编辑、删除、重排旧消息。 查法：不用查，行为本身就是答案：改动点之后的缓存必然全部作废。 动作：不用改：这是功能的正当代价。知道改动的下一轮必然全 miss 就行，别为单轮命中率焦虑。
5. 供应商或中转不返回命中数字。 查法：响应 usage 里找 cached_tokens、cache_read、prompt_cache_hit_tokens 一类字段；一个都没有就是测不到。 动作：换直连或换会回报命中的通道。我们实测过某中转池：字节完全相同的请求跨轮读不到缓存。池子不粘滞时，折扣根本不会到账。
6. 长会话聊到某一刻，命中率突然断崖再也回不去。 查法：看会话 token 是否逼近模型窗口上限——顶满后客户端开始滑窗截断，开头每轮都在动。 动作：主动开摘要或压缩，别等截断替你剪历史：截断是每轮变化的开头，把缝钉住的压缩至少能在两缝之间恢复稳定前缀。

工具与下一步

分工一句话：工具管「算你的数」，这份报告管「为什么、和怎么办」。

• 缓存省钱计算器 — 把你的轮数、模型、命中率代进去看两条成本曲线；四个实测锚点（46.5 / 73.1 / 89.9 / 91.5）都是按钮
• 上下文透视镜 — 你的上下文窗口都被谁占了：设定、历史、注入逐块看
• 模型价格表 — 各家缓存读价可排序对比，每天归档一份快照
• 四方对比评测（数据正源） — 本页命中率数字的完整方法、逐格数据与防舞弊记录
• 被自己的评测打脸然后修好 — 46.5% 到 89.9% 的修复全记录
• 前缀缓存的人话版 — 机制本身的十分钟入门

方法与口径

• 四方命中率与成本：2026-07-23 至 07-24 的四方对比评测，同模型（deepseek-v4-flash）、同一把 Key、逐字节相同的 15 轮脚本，3 卡 × 4 方 × 3 次独立重复共 36 格（修复前基线），修复后另跑 18 格对照；每次调用经同一个透明计量网关单点记账，网关、酒馆侧、App 侧三层账目逐格对齐才进数。整场约 1,530 次真实调用，按牌价折算约 $1.07。
• 两条产品链的拆层数字（53%→97%、58%→96-98%）：生产环境对照探针，DeepSeek 直连、30 轮历史垫底、独立随机盐、两次复跑一致（2026-07-14）。
• 倍率表与 100 轮账单：models.dev 2026-07-24 牌价快照；模拟公式与本站缓存计算器完全同款（起始 2,000 token、每轮 120 输入 + 350 输出），参数就写在上文里。
• 缓存命中的判定以服务商响应 usage 字段为准（DeepSeek 的 prompt_cache_hit_tokens 等），不是我们自己估的。
• 原始数据可复算：逐调用计量日志、逐格转录与对账记录归档在四方评测页所链的数据正仓。

诚实边界

• 命中率实测全部来自单一模型（deepseek-v4-flash）的网关口径。倍率表列了各家牌价，但「你会命中多少」不可跨模型照搬：前缀失效的机理是通用的，具体百分比不是。
• 评测场景是 15 轮固定脚本的角色扮演会话，不是全体用户的使用分布。你的命中率由你的卡结构、插件、编辑习惯决定，这正是自查清单存在的理由。
• 成本是按公开牌价的机械折算，只用于组间相对比较，不是你的账单预测。缓存写入费与缓存有效期（各家从几分钟到几小时不等）都没有建模。
• 「聊 100 轮」一节是与计算器同口径的模拟外推，不是实测；实测数据是 15 轮那组。
• 我们的修复数字分两个形态：全新安装实测 89.9%，老用户升级后实测 73.1%；补齐差距要动存量配置，属于单独的产品决策，本页不替它许诺。
• 牌价是 2026-07-24 的快照，价格随时会变，以供应商官网为准；人民币金额按 1 USD ≈ 7.2 CNY 估算。

常见问题