Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Discrimination systémique
Forme de discrimination intégrée dans les structures et processus systémiques, où les algorithmes reproduisent et amplifient les inégalités existantes de manière automatique et à grande échelle. Elle se manifeste par des décisions défavorables persistantes envers des groupes spécifiques.
Égalité des odds
Critère d'équité exigeant que les taux de vrais positifs et de faux positifs soient égaux entre différents groupes démographiques. Cette approche plus stricte que l'égalité des chances garantit une performance prédictive équivalente across groupes.
Impact disparate
Concept légal et éthique identifiant quand une politique ou pratique apparemment neutre a des effets disproportionnés et négatifs sur des groupes protégés. Dans l'IA, il s'applique lorsque les algorithmes produisent des résultats inéquitables même sans intention discriminatoire.
Biais de représentation
Sous-représentation ou sur-représentation systématique de certains groupes dans les ensembles de données, conduisant à des modèles moins performants pour les groupes sous-représentés. Ce biais affecte directement la qualité et l'équité des prédictions.
Justice contrefactualle
Approche d'équité basée sur la comparaison des résultats pour un individu avec et sans une caractéristique protégée, toutes autres conditions étant égales. Elle vise à garantir que les décisions ne changent pas uniquement en raison d'attributs sensibles.