跳到主要内容

1 篇文档带有标签「deployment」

查看所有标签

量化简介

PTQ 三大方法（GPTQ / AWQ / SmoothQuant）及 INT8 / FP8 / INT4 的精度与加速权衡