2026年11月07日 · 5 分钟阅读 连续批处理与分页 KV：请求怎样进入下一轮计算 从长短请求混跑出发，区分迭代调度与 KV 空间管理，用一个小批次和块分配例子解释吞吐、等待与容量的取舍。 LLM Inference Lab →