Моментум
Инерция в оптимизации
Аналогичное физическое явление, при котором обновления параметров сохраняют часть своего предыдущего импульса, позволяя преодолевать плато и мелкие локальные минимумы. Инерция особенно эффективна для навигации в сложных и невыпуклых ландшафтах потерь.
← Назад