量化和优化

块量化 (Block-wise Quantization)

一种量化策略，将权重张量分割成更小的块，并对每个块独立应用量化，与全局量化相比，能更好地保持值的分布并减少整体误差。

← 返回