TTFT

首 Token 延迟（Time to First Token，TTFT）指大模型推理服务从接收到客户端请求，到完成 Prompt 上下文 Prefill 计算并输出第一个生成 Token 所经历的端到端耗时。TTFT 主要受输入 Prompt 长度、计算并行度、Prefix Cache 命中率及排队等待时间影响，是衡量交互式应用首屏体感响应速度的关键指标。