KI-Glossar
Das vollständige Wörterbuch der Künstlichen Intelligenz
Disparité démographique
Mesure quantifiant les différences de taux de prédiction positive entre différents groupes démographiques pour une même caractéristique sensible. Cette métrique permet d'identifier les disparités systématiques dans les résultats du modèle selon l'appartenance à des groupes protégés.
Facteurs sensibles protégés
Attributs démographiques ou caractéristiques individuelles légalement protégées contre la discrimination, tels que la race, le sexe, l'âge, l'orientation sexuelle ou le handicap. L'utilisation directe ou indirecte de ces facteurs dans les modèles d'IA fait l''une attention particulière dans les audits d'équité.
Test de représentativité
Évaluation vérifiant si les distributions de caractéristiques dans les données d'entraînement reflètent adéquatement celles de la population cible ou des sous-groupes concernés. Ce test permet d'identifier les sous-représentations qui pourraient conduire à des biais systématiques dans les prédictions du modèle.
Métrique d'équité individuelle
Ensemble de critères évaluant si des individus similaires reçoivent des traitements similaires de la part du modèle d'IA, garantissant une cohérence au niveau individuel plutôt que seulement au niveau groupe. Ces métriques incluent la cohérence des prédictions pour des cas quasi identiques et la stabilité face aux petites variations.
Robustesse équitable
Capacité d'un modèle d'IA à maintenir ses performances équitables face à des variations des données d'entrée, aux attaques adverses ou aux changements de distribution. L'audit de robustesse équitable vérifie si les garanties d'équité persistent dans des conditions opérationnelles réelles et potentiellement hostiles.
Audit d'explicabilité équitable
Examen systématique évaluant si les explications fournies par un système d'IA sont elles-mêmes exemptes de biais et accessibles à tous les utilisateurs concernés. Cet audit vérifie que les méthodes d'interprétabilité ne masquent pas de discriminations et produisent des explications cohérentes entre groupes.
Traitement disparate
Forme de discrimination directe où des individus ou groupes sont intentionnellement traités différemment sur la base de caractéristiques sensibles protégées. Dans le contexte de l'IA, cela se manifeste par l'utilisation explicite ou le traitement différencié de variables sensibles dans le processus de décision.
Score d'équité composite
Métrique agrégée combinant plusieurs dimensions d'équité (parité, calibration, égalité des chances) en une mesure unique pour évaluer globalement les performances équitables d'un modèle. Ce score facilite la comparaison entre modèles et le suivi temporel des améliorations d'équité.
Débiaisage post-hoc
Méthodes appliquées après l'entraînement du modèle pour ajuster ses prédictions et corriger les biais identifiés sans altérer l'algorithme d'apprentissage original. Ces techniques incluent le recalibrage des scores de décision, l'ajustement des seuils de classification ou la transformation des prédictions finales.