Glossario IA
Il dizionario completo dell'Intelligenza Artificiale
Égalité des Cotes
Métrique d'équité qui requiert que les cotes de prédiction positive soient indépendantes du groupe démographique, conditionnellement à la vraie outcome.
Analyse de Contre-factuel
Technique d'interprétabilité qui évalue comment la prédiction d'un modèle changerait si certaines caractéristiques d'un individu, notamment son appartenance à un groupe, étaient modifiées.
Prédictive Parity
Critère d'équité selon lequel la valeur prédictive positive doit être la même pour tous les groupes, assurant que les prédictions positives ont une fiabilité uniforme.
Adversarial Debiasing
Méthode de mitigation des biais utilisant un réseau de neurones adversaire pour apprendre des représentations de données invariantes par rapport à l'attribut sensible.
Calibration par Groupe
Processus d'ajustement des scores de probabilité d'un modèle pour s'assurer que les prédictions sont bien calibrées au sein de chaque sous-groupe démographique.
SHAP pour l'Équité
Application des valeurs SHAP (SHapley Additive exPlanations) pour quantifier et visualiser comment les caractéristiques sensibles contribuent aux prédictions discriminatoires d'un modèle.
Fonction de Perte Équitable
Modification de la fonction objectif d'un algorithme d'apprentissage pour y intégrer des pénalités ou des contraintes qui encouragent le respect de certaines métriques d'équité.
Proxy d'Attribut Sensible
Variable non sensible qui est fortement corrélée avec un attribut protégé (ex. code postal pour ethnie), pouvant être utilisée par le modèle pour perpétuer une discrimination indirecte.
Disparate Mistreatment
Forme de biais où les taux d'erreur de classification (faux positifs, faux négatifs) diffèrent de manière significative entre les groupes démographiques.
Reweighting
Technique de pré-traitement qui ajuste le poids de chaque exemple d'entraînement pour équilibrer la distribution des groupes et des outcomes, réduisant ainsi le biais du modèle.
Indépendance Mutuelle
Critère d'équité formel qui exige que la prédiction du modèle soit statistiquement indépendante de l'attribut sensible, mesurable par l'information mutuelle.