#llm-inference

推理压测怎么测：从流式时间戳到满足 SLO 的吞吐

以测试工程的测量边界为起点，区分 TTFT、TPOT、ITL、开闭环负载与 goodput，避免把压力机限制和失败请求隐藏在漂亮报表里。