FP4 计算

使用 4 位浮点精度进行矩阵运算的技术，旨在大幅提升推理吞吐量并降低功耗，常用于量化模型部署。