Otimização de Modelos

Destilação de Modelo

Método de compressão onde um modelo grande e complexo (o professor) treina um modelo menor e mais rápido (o aluno) para reproduzir suas saídas, incluindo as probabilidades suaves, a fim de transferir seu conhecimento e alcançar desempenhos semelhantes com complexidade reduzida.

← Voltar