Mixed Precision Computing

FP16 (Half-Precision Floating Point)

Format de représentation numérique sur 16 bits comprenant 1 bit de signe, 5 bits d'exposant et 10 bits de mantisse, utilisé pour accélérer les calculs et réduire l'empreinte mémoire au prix d'une précision réduite.

← Retour