由于服务串行处理，第1个请求在2秒后结束。第10个请求需等待前9个请求完成，耗时18秒，故在20秒后结束。10人的平均完成时间为(2+4+...+20)/10=11秒。这与“每秒生成多少token”不同：前者是用户视角的端到端延迟，受排队影响；后者是模型推理引擎在单请求内的生成速度（如20 token/s），仅反映计算效率，不包含排队等待时间。