Глоссарий ИИ
Полный словарь искусственного интеллекта
Ошибка отбора
Систематическое искажение, возникающее в результате нерепрезентативного метода выборки целевой популяции, что приводит к ошибочным обобщениям в прогнозах модели.
Ошибка выборки
Методологическая ошибка, при которой определённые сегменты популяции чрезмерно или недостаточно представлены в обучающих данных, влияя на способность модели к обобщению.
Ошибка измерения
Систематическая неточность в сборе или регистрации переменных, вводящая искажения в данные, которые распространяются через процесс обучения.
Историческое искажение
Искажения, унаследованные от исторических данных, отражающих прошлые социальные предрассудки, тем самым сохраняющие существующие неравенства в текущих алгоритмических прогнозах.
Ошибка агрегации
Потеря критической информации при объединении данных на разных уровнях гранулярности, скрывающая важные различия между подгруппами популяции.
Ошибка репрезентативности
Дисбаланс в распределении демографических или контекстуальных характеристик между обучающими данными и реальной популяцией применения.
Ошибка разметки
Систематические несоответствия в аннотации обучающих данных, возникающие в результате субъективных человеческих суждений или переменных критериев между аннотаторами.
Ошибка выживания
Аналитическое искажение, учитывающее только данные, прошедшие предварительный процесс отбора, игнорируя неудачные случаи и искажая сравнительный анализ.
Адверсариальная дебиасизация
Техника, использующая противоборствующую сеть для минимизации корреляции между прогнозами модели и чувствительными атрибутами при сохранении предсказательной производительности.
Взвешивание с обратной вероятностью
Метод коррекции смещения, назначающий вес примерам обучения обратно пропорционально их вероятности выборки.
Стратифицированное ресэмплирование
Техника оверсэмплинга или андерсэмплинга, направленная на балансировку представления различных классов или демографических групп в обучающих данных.
Анализ дизпартигированного воздействия
Количественная оценка дифференциальных эффектов алгоритма на различные защищённые группы, потенциально выявляющая косвенную дискриминацию.
Справедливая калибровка
Процесс настройки вероятностных оценок для обеспечения хорошей калибровки прогнозов при поддержании справедливости между группами.
Смещение распределения
Систематическое искажение при распределении ресурсов или возможностей алгоритмом, необоснованно favoreisant определённые группы в ущерб другим.
Обнаружение латентного смещения
Идентификация скрытых корреляций между предикторными переменными и чувствительными атрибутами, неявно заявленными в данных.