AI向けGPUコンピューティング

FP16（半精度浮動小数点）

16ビットの浮動小数点数形式で、ニューラルネットワークにおける計算の高速化とメモリフットプリントの削減に使用され、多くの場合許容可能なわずかな精度の低下を引き換えにします。

← 戻る