量化与压缩

结构化稀疏性N:M

一种剪枝方案，其中对于每M个权重的块，恰好保留N个权重（N < M）。这种规则模式旨在通过现代GPU的专用矩阵计算单元（Tensor Cores）高效加速。

← 返回