AWQ 详解:激活感知权重量化如何保护重要通道

AWQ 不用 Hessian 补偿已量化权重,而是根据激活幅度识别重要输入通道,在量化前搜索逐通道缩放因子,让全部权重仍可规整地存为 INT4 或 INT3。

2026 年 08 月 11 日 · 8 分钟 · 3552 字 · Ge Zhang