Глоссарий ИИ
Полный словарь искусственного интеллекта
Равные шансы
Критерий справедливости, требующий равенства показателей истинных положительных результатов между различными демографическими группами. Обеспечивает схожую производительность обнаружения модели для всех групп.
Негативное воздействие
Метрика, количественно оценивающая системную дискриминацию, когда показатели отбора значительно различаются между группами. Юридический порог обычно устанавливается на уровне 80% согласно правилам EEOC.
Защищенные атрибуты
Демографические характеристики, законодательно защищенные от дискриминации (раса, пол, возраст, религия и т.д.). Их идентификация имеет решающее значение для оценки справедливости алгоритма.
Индекс Тейла
Метрика неравенства из экономики, измеряющая разрыв в прогнозах между демографическими группами. Нулевое значение указывает на идеальную справедливость между всеми группами.
Статистическое равенство
Метрика, измеряющая разницу между показателями положительного отбора демографических групп. Ноль указывает на идеальное равенство в результатах модели.
Эффект гетерогенного лечения
Анализ различных воздействий модели в зависимости от демографических подгрупп. Важен для выявления скрытых дискриминаций в прогнозах.
Разница равных возможностей
Метрика, измеряющая разрыв в показателях истинных положительных результатов между привилегированными и неблагополучными группами. Количественно оценивает неравенство в возможностях, предоставляемых моделью.
Ограничение справедливости
Математическое ограничение, налагаемое во время обучения для обеспечения определенных критериев справедливости. Сбалансированная производительность и справедливость в оптимизации модели.
Показатель дискриминационного воздействия
Соотношение между показателями отбора для неблагополучных и привилегированных групп. Значение ниже 0,8 указывает на потенциальную дискриминацию в соответствии с нормативными стандартами.
Анализ подгрупп
Детальная оценка производительности модели на конкретных демографических сегментах. Позволяет выявлять скрытые предвзятости, которые не видны при общих показателях.