token成本账：缓存读写与路由的计价规则

一篇技术文章拆解了大模型调用成本的计算方式：成本等于 token 数与单价的乘积，而单价又受缓存读写、异步批量、模型档位、分词器四个因素影响。文章称，缓存读的价格约为标准输入价的 0.1 倍；短存活期缓存的写入价约为 1.25 倍，读回一次即可回本；长存活期缓存的写入价约为 2 倍，需读回两次才能回本；如果只调用一次，开启缓存会纯亏。 文章还称，低于最短长度的提示会被静默跳过、不予缓存，因此需要同时记录缓存写与缓存读的 token 计数，才能验证缓存是否生效。上述价格倍数与回本条件均为该文说法。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。