#ttft

Prefix Cache 命中率如何影响 TTFT？

从命中率提高但首字仍慢的问题出发，区分复用长度、缓存准备、排队与 TTFT，并设计对照实验。