混合精度計算
自動混合精度(AMP)
AIフレームワーク(PyTorch、TensorFlow)の機能で、FP16またはFP32で実行する操作を自動的に選択し、型変換を管理し、損失スケーリングを透過的に適用する。
← 戻るAIフレームワーク(PyTorch、TensorFlow)の機能で、FP16またはFP32で実行する操作を自動的に選択し、型変換を管理し、損失スケーリングを透過的に適用する。
← 戻る