Глоссарий ИИ
Полный словарь искусственного интеллекта
Égalité des Cotes
Métrique d'équité qui requiert que les cotes de prédiction positive soient indépendantes du groupe démographique, conditionnellement à la vraie outcome.
Analyse de Contre-factuel
Technique d'interprétabilité qui évalue comment la prédiction d'un modèle changerait si certaines caractéristiques d'un individu, notamment son appartenance à un groupe, étaient modifiées.
Prédictive Parity
Critère d'équité selon lequel la valeur prédictive positive doit être la même pour tous les groupes, assurant que les prédictions positives ont une fiabilité uniforme.
Adversarial Debiasing
Méthode de mitigation des biais utilisant un réseau de neurones adversaire pour apprendre des représentations de données invariantes par rapport à l'attribut sensible.
Calibration par Groupe
Processus d'ajustement des scores de probabilité d'un modèle pour s'assurer que les prédictions sont bien calibrées au sein de chaque sous-groupe démographique.
SHAP pour l'Équité
Application des valeurs SHAP (SHapley Additive exPlanations) pour quantifier et visualiser comment les caractéristiques sensibles contribuent aux prédictions discriminatoires d'un modèle.
Fonction de Perte Équitable
Modification de la fonction objectif d'un algorithme d'apprentissage pour y intégrer des pénalités ou des contraintes qui encouragent le respect de certaines métriques d'équité.
Proxy d'Attribut Sensible
Variable non sensible qui est fortement corrélée avec un attribut protégé (ex. code postal pour ethnie), pouvant être utilisée par le modèle pour perpétuer une discrimination indirecte.
Неравное отношение
Форма предвзятости, при которой уровни ошибок классификации (ложноположительные, ложноотрицательные) значительно различаются между демографическими группами.
Перевзвешивание
Техника предварительной обработки, которая корректирует вес каждого обучающего примера для сбалансирования распределения групп и результатов, тем самым уменьшая предвзятость модели.
Взаимная независимость
Формальный критерий справедливости, требующий, чтобы предсказание модели было статистически независимо от чувствительного атрибута, измеряемого взаимной информацией.