Token 生成速率

衡量大语言模型推理性能的关键指标，指单位时间内生成的 Token 数量，直接影响用户交互的响应延迟和流畅度。