Nov 07, 2026 · 5 min read · Chinese original 缓存在哪台机器上:前缀复用、路由与搬运成本 从热缓存节点排队更长的情况出发,比较本地命中、远端搬运与重新计算,解释命中率为何不能单独决定路由。 LLM Inference Lab →