Tensor Cores Optimization

TensorFloat-32 (TF32)

Format numérique hybride NVIDIA utilisant 8 bits d'exposant (comme FP32) et 10 bits de mantisse (comme FP16), offrant un compromis optimal entre plage dynamique et précision pour les Tensor Cores Ampere.

← Retour