Глоссарий ИИ

📖

термины

Последовательное сокращение вдвое

Метод последовательного исключения, который делит количество конфигураций пополам на каждой итерации, выделяя больше ресурсов конфигурациям с лучшими показателями.

📖

термины

Динамическое распределение ресурсов

Адаптивная стратегия, которая распределяет вычислительный бюджет в зависимости от наблюдаемых производительности конфигураций гиперпараметров во время оптимизации.

📖

термины

Вычислительный бюджет

Общий доступный вычислительный ресурс, определяемый в терминах итераций, эпох обучения или времени процессора, выделенного для оптимизации гиперпараметров.

📖

термины

Раннее исключение

Механизм, который преждевременно прекращает оценку конфигураций с низкой производительностью для экономии вычислительных ресурсов.

📖

термины

ASHA

Асинхронный алгоритм последовательного сокращения вдвое реализует последовательное сокращение асинхронно для максимального использования ресурсов на параллельных архитектурах.

📖

термины

Многоуровневая оптимизация

Подход, использующий менее точные, но более быстрые аппроксимации для быстрой оценки конфигураций перед их полной оценкой.

📖

термины

Конфигурация гиперпараметров

Конкретный набор значений, присвоенных гиперпараметрам модели машинного обучения, определяющий уникальную конфигурацию для оценки.

📖

термины

Исключение по скобкам

Процесс поэтапного исключения в Hyperband, где несколько скобок с разными начальными выделениями ресурсов выполняются параллельно.

📖

термины

Стратегия распределения ресурсов

Политика, определяющая распределение вычислительного бюджета между конфигурациями гиперпараметров в процессе оптимизации.

📖

термины

Исследование пространства гиперпараметров

Систематический процесс поиска в пространстве гиперпараметров для идентификации оптимальных конфигураций согласно заданным метрикам производительности.

📖

термины

Обрезка на основе производительности

Техника обрезки конфигураций, основанная на их относительной производительности по сравнению с порогом или с лучшими наблюдаемыми конфигурациями.

📖

термины

Вычислительная эффективность

Мера эффективности, с которой алгоритм оптимизации использует доступные ресурсы для поиска производительных конфигураций.

📖

термины

Верность конфигурации

Уровень точности или качества, используемый для оценки конфигурации гиперпараметров, постепенно увеличиваемый для лучших конфигураций.

📖

термины

Адаптивное распределение ресурсов

Механизм, который динамически настраивает распределение ресурсов в зависимости от наблюдаемых тенденций производительности во время оптимизации.