缓存命中率

正是这个数字把 token 计数变成了花费。两次原始输入相同的请求，可能因为已缓存部分的多少而在价格上相差数倍。

在实践中，这个比率取决于请求开头部分的稳定性。一个只在尾部增长的稳定前缀能很好地命中缓存；任何重写序列开头的做法都不行。

在比较同一任务的两种做法时，加权输入，也就是新鲜 token 按全权重加上缓存 token 按其折减权重，才是与你实际付款对应的度量。原始输入则是更容易被拿来引用的那一个。