通用工具
总表
@gptq
训练后量化方法，使用分组量化将 LLM 压缩至 4 位，且精度损失最小。
包含技能
1 个总表
@ovachiever/droid-tings/gptq
训练后量化方法，使用分组量化将 LLM 压缩至 4 位，且精度损失最小。
@gptq
训练后量化方法，使用分组量化将 LLM 压缩至 4 位，且精度损失最小。
训练后量化方法，使用分组量化将 LLM 压缩至 4 位，且精度损失最小。