Глоссарий ИИ
Полный словарь искусственного интеллекта
Обучение в собственном темпе
Вариант curriculum learning, где модель обучается в собственном темпе, динамически выбирая обучающие примеры в соответствии с их воспринимаемым уровнем сложности.
Оценка сложности
Количественный метод для оценки и присвоения оценки сложности каждому обучающему примеру, что позволяет оптимальное упорядочивание в учебном плане.
Обучение по принципу "маленьких шагов"
Экстремальный подход к curriculum learning, где модель начинается с тривиально простых примеров, прежде чем очень постепенно переходить к сложным случаям.
MentorNet
Метасеть нейронов, которая динамически определяет учебный план, обучаясь выбирать наиболее релевантные примеры для ученика сети.
Учебный план по плотности данных
Стратегия, которая упорядочивает примеры согласно их плотности в пространстве признаков, отдавая предпочтение выборкам в плотных регионах перед теми, что в разреженных регионах.
Учебный план по шуму градиента
Метод, который использует шум в градиентах как индикатор сложности; примеры с большим шумом считаются более сложными и вводятся позже.
Учебный план по функции потерь
Подход, который упорядочивает примеры согласно их текущему значению потерь; примеры с высокими потерями считаются сложными и откладываются в учебном плане.
Анти-curriculum learning
Обратная стратегия, представляющая сначала самые сложные примеры для улучшения устойчивости модели и избежания субоптимальных локальных минимумов.
Curriculum by Transfer Learning
Метод, использующий знания, предварительно полученные на простых задачах, для построения прогрессивной программы обучения (curriculum) в направлении более сложных задач.
Curriculum Generation
Алгоритмический процесс автоматического создания оптимальных последовательностей обучения на основе характеристик данных и целей модели.
Curriculum Scheduling
Временное планирование, определяющее, когда и как вводить примеры возрастающей сложности в процессе обучения модели.
Easy-First Strategy
Основной принцип curriculum learning, согласно которому сначала представляются самые простые примеры для создания прочной основы перед переходом к сложности.
Hard-First Strategy
Альтернативный подход, при котором сначала представляются сложные примеры, чтобы заставить модель разрабатывать устойчивые представления с самого начала обучения.
Curriculum Smoothness
Мера непрерывности в прогрессии сложности между последовательными примерами, предотвращающая резкие скачки, которые могут дестабилизировать обучение.
Task Curriculum Learning
Расширение curriculum learning, при котором порядок устанавливается для целых задач, а не для отдельных примеров в рамках одной задачи.
Multi-Task Curriculum Learning
Сложный подход, координирующий одновременное обучение множеству задач с оптимизированной программой обучения для максимизации синергии между задачами.