2026年11月07日 · 3 分钟阅读 Prefill 与 Decode：输入处理和逐步生成 解释 Prefill 和 Decode 如何使用 KV Cache、各自如何批处理，以及应该观察哪些延迟指标。 LLM Inference Lab →