Глоссарий ИИ
Полный словарь искусственного интеллекта
Обучение на основе популяции (PBT)
Метод оптимизации гиперпараметров, который сочетает обучение с подкреплением и эволюционные алгоритмы для динамической настройки гиперпараметров во время обучения модели.
Адаптивные гиперпараметры
Параметры обучения, которые развиваются динамически в зависимости от производительности модели, а не устанавливаются заранее.
Популяционная динамика
Эволюционный процесс, в котором индивиды (модели) взаимодействуют, конкурируют и обмениваются информацией в общей среде обучения.
Динамическое расписание обучения
Стратегия автоматической настройки скорости обучения на основе относительных показателей внутри популяции.
Период оценки
Временной интервал между фазами выбора и эксплуатации в цикле PBT, определяющий частоту корректировки гиперпараметров.
Критерий производительности
Метрика или набор метрик, используемых для оценки и сравнения моделей в популяции PBT.
Адаптивное экспоненциальное затухание
Стратегия автоматической настройки скорости обучения, при которой затухание динамически модулируется в соответствии с относительной производительностью.
Межличностный перенос знаний
Механизм PBT, позволяющий моделям обучаться коллективно, обмениваясь лучшими конфигурациями, обнаруженными внутри популяции.
Равновесие Нэша в PBT
Теоретическое состояние, при котором ни одна модель в популяции не может улучшить свои показатели, односторонне изменяя свои гиперпараметры.
Многоцелевая оптимизация в PBT
Расширение PBT, которое одновременно управляет несколькими противоречивыми целями, такими как точность против времени вывода или энергопотребления.
Эволюционная регуляризация
Побочный положительный эффект PBT, при котором конкуренция и разнообразие популяции действуют как механизм неявной регуляризации.
Направленная стохастическая разведка
Стратегия исследования в PBT, при которой случайные мутации смещаются в сторону областей пространства гиперпараметров, показавших потенциал.