Дистилляция моделей

Температура дистилляции

Гиперпараметр температуры, применяемый в функции softmax для контроля смягчения вероятностей модели учителя, что позволяет модели-ученику изучать взаимосвязи между классами, выходящие за рамки наиболее вероятных предсказаний.

← Назад