Глоссарий ИИ
Полный словарь искусственного интеллекта
Генетические алгоритмы для NAS
Методы оптимизации, вдохновленные биологической эволюцией, использующие отбор, скрещивание и мутацию для автоматического обнаружения эффективных архитектур сетей.
Эволюционные стратегии
Эволюционный алгоритм оптимизации, где мутация является основным оператором вариации, адаптированный для эффективного исследования пространства нейронных архитектур.
Пространство поиска архитектур
Набор всех возможных архитектур нейронных сетей, определяемых структурными и операционными ограничениями, специфичными для задачи.
Функция пригодности NAS
Многокритериальная функция оценки, измеряющая производительность нейронной архитектуры по точности, вычислительной сложности и потреблению памяти.
Вычислительные ячейки NAS
Повторяемые модульные структуры, обнаруженные NAS, комбинирующие различные операции свертки и соединения для построения сложных архитектур.
Скрещивание архитектур
Генетический оператор, комбинирующий подструктуры двух родительских архитектур для создания новых потенциально производительных архитектур.
Мутация архитектуры
Стохастическая модификация существующей нейронной архитектуры путем добавления, удаления или изменения слоев для исследования новых конфигураций.
Дифференциальная эволюция NAS
Вариант эволюционного алгоритма, использующий дифференциальные векторы для направления мутации в непрерывном пространстве гиперпараметров архитектуры.
Многоцелевой NAS
Подход NAS, который одновременно оптимизирует несколько противоречивых целей, таких как точность, задержка и энергопотребление, с помощью методов Парето.
Выборка моделей
Техника вероятностного отбора кандидатов-архитектур из эволюционной популяции для оценки и воспроизведения в соответствии с их приспособленностью.
Примитивные операции NAS
Базовый набор нейронных операций (свертка, пулинг, активация), используемых как фундаментальные блоки для построения сложных архитектур.
Элитизм в NAS
Стратегия, систематически сохраняющая лучшие архитектуры, найденные в каждом поколении, для обеспечения монотонной сходимости производительности.
Эволюционный AutoML
Полная система машинного обучения, использующая в основном эволюционные методы для полной автоматизации конвейера ML, включая NAS.
Поиск по Парето в NAS
Исследование фронта Парето в многоцелевом пространстве для идентификации набора архитектур, предлагающих различные компромиссы между производительностью и стоимостью.
Нейроэволюционный поиск
Междисциплинарная область, объединяющая вычислительную нейронауку и эволюционные алгоритмы для обнаружения био-вдохновленных архитектур.
Гиперпараметры архитектуры
Структурные параметры сети (глубина, ширина, тип соединений), оптимизируемые NAS, помимо классических гиперпараметров обучения.
Прогрессивная оценка NAS
Стратегия ускоренной оценки, использующая прокси или подмножества данных для быстрой оценки пригодности кандидатных архитектур.