Otimização baseada em Momentum

LAMB

Layer-wise Adaptive Moments optimizer for Batch training que estende o LARS, integrando estatísticas adaptativas do tipo Adam para um treinamento eficiente de modelos massivos.

← Voltar