混合精度計算
Post-Training Quantization (PTQ)
事前に完全精度で学習したモデルを再学習なしで低精度（FP16、INT8、INT4）に変換するプロセス。キャリブレーション技術を使用して最適なスケールファクターとバイアスを決定します。
← 戻る事前に完全精度で学習したモデルを再学習なしで低精度（FP16、INT8、INT4）に変換するプロセス。キャリブレーション技術を使用して最適なスケールファクターとバイアスを決定します。
← 戻る