静的量子化

INT8表現

重みとアクティベーションを表現するために8ビット符号付き整数（-128から127）を使用する量子化フォーマットで、ほとんどのハードウェアにおいて精度と計算パフォーマンスの最適なバランスを提供します。

← 戻る