词元吞吐量

单位时间内模型生成或处理的词元数量，衡量推理速度的关键指标