Глоссарий ИИ
Полный словарь искусственного интеллекта
Жёсткое внимание к задаче (HAT)
Техника использования изученных бинарных масок внимания для выбора подсетей, предназначенных для каждой задачи, обеспечивающая полную изоляцию параметров между различными последовательными задачами.
SupSup
Метод непрерывного обучения, накладывающий маски весов поверх общей нейронной сети, позволяющий добавлять новые задачи без изменения ранее изученных весов.
Сетевое управление шлюзами
Механизм, контролирующий активацию различных частей нейронной сети в зависимости от текущей задачи, используя обучаемые затворы для изоляции параметров, специфичных для каждой задачи.
Специализированные для задач подсети
Специализированные подсети, идентифицированные или созданные в рамках основной сети, каждая из которых оптимизирована для конкретной задачи, оставаясь функционально независимой от других подсетей.
Обучение бинарным маскам
Процесс изучения бинарных масок, которые определяют, какие параметры сети активны для данной задачи, обеспечивая строгое разделение между наборами параметров различных задач.
Прогрессивное расширение сети
Стратегия, при которой сеть постепенно расширяется новыми блоками или слоями, предназначенными для каждой новой задачи, сохраняя существующие параметры неизменными для сохранения предыдущих знаний.
Обрезка нейронной сети для непрерывного обучения
Селективное применение обрезки нейронной сети для освобождения параметров в существующей сети, создавая пространство для обучения новым задачам без нарушения производительности предыдущих задач.
Изолированное распределение параметров
Систематический процесс распределения нейронных параметров по конкретным задачам, обеспечивающий то, что никакие общие параметры не могут быть изменены при обучении новым задачам.
Обнаружение подсетей
Автоматическая методика выявления оптимальных подсетей в рамках более крупной архитектуры, каждая из которых специализируется на определённой задаче, сохраняя при этом функциональную целостность всей системы.
Непрерывное обучение на основе масок
Парадигма непрерывного обучения, использующая параметрические маски для сегментации весового пространства сети на области, предназначенные для различных задач, устраняя необходимость репликации параметров.
Сети с фиксированной основой
Архитектура, в которой базовые слои сети остаются неизменными после начального обучения, добавляя лишь классификационные головки или специализированные подсети для новых задач.
Адаптивный выбор параметров
Интеллектуальный механизм, динамически выбирающий параметры для использования или модификации при изучении новой задачи на основе их релевантности и истории использования.
Непрерывное обучение с изоляцией параметров
Теоретическая основа непрерывного обучения, основанная на принципе строгой изоляции параметров между задачами, в отличие от подходов на основе регуляризации или репетиции.
Маршрутизация параметров с учётом задачи
Интеллектуальная система маршрутизации, направляющая информацию через определённые параметры в зависимости от идентичности задачи, обеспечивая функциональную изоляцию при оптимизации использования ресурсов.