Scaling Laws

Critical Batch Size

Taille de batch optimale au-delà de laquelle l'augmentation supplémentaire ne produit plus d'améliorations significatives de la vitesse d'entraînement.

← Retour