文档 & 知识
Awq 量化
@awq-quantization
4 位量化可根据激活模式保留显着权重，以最小的精度损失实现 3 倍的加速。
包含技能
1 个Awq 量化
@zechenzhangagi/ai-research-skills/awq-quantization
4 位量化可根据激活模式保留显着权重，以最小的精度损失实现 3 倍的加速。
@awq-quantization
4 位量化可根据激活模式保留显着权重，以最小的精度损失实现 3 倍的加速。
4 位量化可根据激活模式保留显着权重，以最小的精度损失实现 3 倍的加速。