AI Glossary
The complete dictionary of Artificial Intelligence
Justice distributive en IA
Cadre d'évaluation éthique mesurant la répartition équitable des avantages et inconvénients générés par les systèmes d'IA entre les différents groupes démographiques, souvent quantifiée par des métriques d'équité spécifiques.
Calibration par groupe
Méthode d'ajustement des prédictions algorithmiques visant à assurer que les probabilités prédites correspondent aux fréquences observées pour chaque groupe démographique, réduisant ainsi les biais systémiques.
Contre-factuel équitable
Technique d'explication XAI générant des scénarios alternatifs qui maintiennent constantes les caractéristiques sensibles tout en modifiant les variables pertinentes, assurant des explications non discriminatoires.
Attribution équitable des caractéristiques
Méthode d'interprétabilité garantissant que l'importance accordée à chaque caractéristique dans les explications ne reflète pas de biais discriminatoires, en particulier pour les attributs sensibles ou leurs proxies.
Sensibilité aux attributs protégés
Mesure quantifiant comment les variations dans les caractéristiques démographiques protégées influencent les prédictions et explications d'un modèle, révélant les dépendances discriminatoires potentielles.
AIF360
Boîte à outils open-source d'IBM fournissant un ensemble complet de métriques d'équité, algorithmes de mitigation et techniques d'explication pour détecter et corriger les biais dans les systèmes d'apprentissage automatique.
Métriques de groupe vs individuelles
Distinction fondamentale en équité algorithmique entre les mesures évaluant l'équité au niveau statistique des populations et celles garantissant un traitement équitable pour chaque individu, souvent conflictuelles en pratique.
Justice explicative
Concept évaluant si les explications générées par les systèmes d'IA sont elles-mêmes équitables, cohérentes et ne reflètent pas de préjugés, au-delà de l'équité des décisions sous-jacentes.
Biais d'explication
Distorsion systématique dans la manière dont les méthodes XAI présentent les raisons des décisions algorithmiques, pouvant induire en erreur sur l'importance relative des caractéristiques ou masquer des discriminations.
Équité explicative
Principe garantissant que les explications fournies par les systèmes d'IA sont également justes et non discriminatoires pour tous les groupes, évitant ainsi de créer une deuxième couche d'injustice à travers l'interprétation.