Глоссарий ИИ
Полный словарь искусственного интеллекта
Алгоритмическая справедливость
Основной принцип, направленный на обеспечение того, чтобы системы искусственного интеллекта создавали справедливые и недискриминационные результаты для всех лиц или групп, независимо от их защищённых характеристик.
Алгоритмическое предвзятость
Систематическое искажение в прогнозах или решениях алгоритма, которое несправедливо благоприятствует или наносит ущерб определённым группам, часто являющееся результатом предвзятых обучающих данных или неподходящего проектирования.
Демографическое равенство
Критерий справедливости, требующий, чтобы доля положительных результатов была одинаковой между различными демографическими группами, независимо от реальных индивидуальных характеристик.
Равенство возможностей
Принцип справедливости, гарантирующий, что уровни истинно положительных и ложно положительных результатов равны между различными группами, обеспечивая схожие характеристики прогнозирования для всех популяций.
Справедливость калибровки
Мера справедливости, требующая, чтобы для каждого данного прогнозного балла реальная вероятность результата была одинаковой для всех затронутых демографических групп.
Контрфактическая справедливость
Подход к справедливости, оценивающий, останется ли прогноз неизменным, если защищённые характеристики человека были бы другими, при сохранении остальных атрибутов постоянными.
Индивидуальная справедливость
Принцип, утверждающий, что похожие индивидуумы должны получать от системы ИА аналогичные обработки или прогнозы, гарантируя согласованность на индивидуальном уровне.
Групповая справедливость
Мера справедливости, оценивающая, получают ли различные демографические группы статистически схожие результаты от системы ИА, без учёта конкретных индивидуальных характеристик.
Неравномерное воздействие
Неравный негативный или положительный эффект алгоритма на различные демографические группы, измеряемый статистическим разрывом между показателями результатов для каждой группы.
Распределительная справедливость
Философская концепция, применяемая в ИИ, обеспечивающая справедливое распределение ресурсов, возможностей или выгод, генерируемых алгоритмическими системами, между всеми затронутыми группами.
Процедурная справедливость
Принцип, обеспечивающий, что процессы принятия алгоритмических решений являются прозрачными, последовательными и допускают обжалование, независимо от произведенных результатов.
Справедливость предсказаний
Критерий, гарантирующий, что доля правильных предсказаний одинакова для всех групп, обеспечивая равную надежность предсказаний для разных популяций.
Алгоритмическое привилегирование
Систематическое преимущество, предоставляемое алгоритмом определенным группам или лицам, возникающее в результате неявных предубеждений в проектировании или обучении модели.
Справедливое отношение
Основополагающий принцип, требующий, чтобы системы ИИ обращались со всеми людьми беспристрастно и последовательно, без дискриминации на основе защищенных или чувствительных характеристик.
Справедливость через осведомленность
Методология, интегрирующая осознание потенциальных предубеждений и защищенных характеристик в проектирование и оценку моделей для обеспечения справедливых результатов.
Алгоритмическая дискриминация
Различное и несправедливое отношение к определенным группам со стороны системы ИИ, являющееся результатом алгоритмических решений, которые создают или поддерживают систематические неравенства.
Продольная справедливость
Принцип, обеспечивающий сохранение справедливости системы ИИ с течением времени, предотвращающий появление новых предубеждений или усиление существующих неравенств по мере развития модели.