量化推理

通过降低模型权重或激活值的数值精度（如 FP16 转 INT8）来减少内存占用并加速计算的技术。