Learning Rate Scheduling

Learning Rate Range Test

Procédure diagnostique qui entraîne le modèle sur une seule époque tout en faisant varier le learning rate sur une large plage logarithmique. Le résultat aide à identifier les bornes optimales pour les stratégies de cyclic learning rate.

← Back