2026年11月07日 · 6 分钟阅读 推理压测怎么测:从流式时间戳到满足 SLO 的吞吐 以测试工程的测量边界为起点,区分 TTFT、TPOT、ITL、开闭环负载与 goodput,避免把压力机限制和失败请求隐藏在漂亮报表里。 LLM Inference Lab →