Глоссарий ИИ
Полный словарь искусственного интеллекта
Буфер воспроизведения
Буфер, хранящий примеры прошлых данных для периодического переобучения модели и противодействия катастрофическому забыванию. Этот метод поддерживает сбалансированное представление исторических знаний, одновременно интегрируя новую информацию.
Дистилляция знаний
Метод, при котором обучающаяся модель имитирует выходные данные предыдущей экспертной модели для сохранения полученных знаний. Этот подход использует мягкие распределения вероятностей модели-учителя в качестве руководства для сохранения изученных связей между классами.
Прогрессивные нейронные сети
Архитектура, в которой каждая новая задача имеет собственный нейронный столбец, сохраняя при этом боковые связи с предыдущими столбцами. Эта структура позволяет избежать прямого вмешательства между задачами, обеспечивая при этом перенос знаний.
Инкрементальное обучение задачам
Сценарий обучения, при котором задачи представляются последовательно с четко определенными границами задач. Модель должен демонстрировать результаты на всех изученных задачах без одновременного доступа к данным всех задач.
Инкрементальное обучение классам
Парадигма, при которой новые классы постепенно добавляются в систему классификации без повторного предъявления старых классов. Этот подход имитирует реальные условия, в которых категории динамически меняются с течением времени.
Адаптация домена
Процесс настройки модели, обученной на исходном домене, для эффективной работы на другом целевом домене. Инкрементальная адаптация позволяет модели постепенно адаптироваться к изменениям в распределении данных.
Обучение по учебному плану
Последовательная стратегия, представляющая обучающие выборки в порядке возрастания сложности для оптимизации сходимости. Адаптивный учебный план динамически корректирует последовательность обучения в зависимости от прогресса модели.
Синаптическая регуляризация
Метод защиты важных нейронных связей для прошлых задач при изучении новой информации. Этот подход выявляет критические синаптические веса и применяет штрафы для сохранения их вклада в предыдущие результаты.