混合精度計算

INT8 Quantization

スケールファクターとゼロポイントを使用して、8ビット符号付き整数（-128から127）でニューラルネットワークの重みと活性化を圧縮する技術。最大4倍のメモリ削減と、互換性のあるハードウェアでの大幅な高速化を提供します。

← 戻る