Глоссарий ИИ
Полный словарь искусственного интеллекта
Системная дискриминация
Форма дискриминации, встроенная в системные структуры и процессы, где алгоритмы автоматически и в масштабах воспроизводят и усиливают существующие неравенства. Проявляется в виде устойчивых неблагоприятных решений в отношении определённых групп.
Равенство шансов (Equalized Odds)
Критерий справедливости, требующий, чтобы показатели истинно положительных и ложно положительных результатов были равны для разных демографических групп. Этот более строгий подход, чем равенство возможностей, гарантирует сопоставительную предсказательную точность для всех групп.
Различное воздействие (Disparate Impact)
Юридический и этический концепт, определяющий, когда нейтральная на первый взгляд политика или практика оказывает непропорционально негативное влияние на защищённые группы. В ИИ он применяется, когда алгоритмы производят несправедливые результаты даже при отсутствии дискриминационного умысла.
Представительское смещение
Систематическая недо- или пере-представленность определённых групп в наборах данных, что приводит к снижению производительности моделей для недопредставленных групп. Это смещение напрямую влияет на качество и справедливость прогнозов.
Контрфактуальная справедливость
Подход к справедливости, основанный на сравнении результатов для одного индивида с защищённым признаком и без него при прочих равных условиях. Цель — гарантировать, что решения не меняются исключительно из-за чувствительных атрибутов.