文档 & 知识
总表
@gptq
训练后量化方法，使用分组量化将 LLM 压缩至 4 位，且精度损失最小。
包含技能
1 个总表
@zechenzhangagi/ai-research-skills/gptq
训练后量化方法，使用分组量化将 LLM 压缩至 4 位，且精度损失最小。
@gptq
训练后量化方法，使用分组量化将 LLM 压缩至 4 位，且精度损失最小。
训练后量化方法，使用分组量化将 LLM 压缩至 4 位，且精度损失最小。