Глоссарий ИИ
Полный словарь искусственного интеллекта
BOHB (Bayesian Optimization HyperBand)
Гибридный алгоритм, сочетающий байесовскую оптимизацию для вероятностного моделирования и HyperBand для адаптивного распределения ресурсов, позволяющий эффективно искать гиперпараметры.
Модель-суррогат
Вероятностная модель (обычно Гауссовский процесс или TPE), которая аппроксимирует дорогостоящую в вычислении целевую функцию для направления поиска гиперпараметров.
Функция приобретения
Функция, которая балансирует исследование и эксплуатацию для определения следующих конфигураций гиперпараметров для оценки.
TPE (Tree-structured Parzen Estimator)
Непараметрическая суррогатная модель, использующая оценки плотности по ядру для моделирования распределений гиперпараметров.
Вычислительный бюджет
Ограниченный ресурс (время, эпизоды, данные), выделяемый для оценки конфигураций гиперпараметров в BOHB.
Распределение на основе бандитов
Стратегия распределения ресурсов, вдохновленная многорукими бандитами, для оптимизации компромисса между исследованием и эксплуатацией.
Важность гиперпараметров
Мера влияния каждого гиперпараметра на производительность модели, используемая для приоритизации поиска в BOHB.
Параллельная оценка
Возможность одновременно оценивать несколько конфигураций гиперпараметров для ускорения оптимизации в BOHB.
Выбор по Томпсону
Метод выбора, который выбирает конфигурации в соответствии с их вероятностью быть оптимальными согласно суррогатной модели.
Конфигурация скобки
Конкретная настройка HyperBand, определяющая количество конфигураций и эволюцию бюджета для данной скобки.