探索索引

W4A4 量化

权重和激活均使用4位整数表示的极低比特量化技术,旨在大幅降低显存占用和计算开销,但对数值稳定性要求极高。

暂时没有与该实体关联的公开内容。