Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
AutoML Interprétable
Sous-domaine de l'AutoML visant à générer automatiquement des modèles d'apprentissage automatique qui optimisent simultanément la performance prédictive et la capacité d'interprétation humaine des décisions.
Compromis Performance-Interprétabilité
Dilemme fondamental en AutoML où l'amélioration de la précision prédictive s'accompagne souvent d'une diminution de l'interprétabilité du modèle, nécessitant un équilibre optimal selon le cas d'usage.
Feature Importance Locale
Évaluation de l'impact de chaque feature sur une prédiction spécifique, expliquant pourquoi le modèle a pris une décision particulière pour un individu donné.
Explicabilité vs Interprétabilité
Distinction où l'interprétabilité concerne la compréhension intrinsèque du mécanisme du modèle, tandis que l'explicabilité vise à fournir des justifications compréhensibles des prédictions, même pour modèles opaques.
Surrogate Models
Modèles simples et interprétables entraînés pour approximer le comportement d'un modèle complexe, permettant de générer des explications globales ou locales des décisions du modèle original.
Model-agnostic Explanations
Techniques d'interprétation pouvant s'appliquer à tout type de modèle d'apprentissage automatique sans nécessiter de connaissances sur son architecture interne.
Rule-based Models
Modèles utilisant des ensembles de règles SI-ALORS interprétables pour prendre des décisions, offrant un équilibre naturel entre performance et transparence dans l'AutoML.
Interprétabilité Post-hoc
Approche consistant à analyser et expliquer un modèle déjà entraîné sans modifier sa structure, contrairement aux modèles intrinsèquement interprétables.
Feature Selection Automatisée
Processus AutoML identifiant automatiquement le sous-ensemble optimal de variables prédictives qui maximise la performance tout en préservant l'interprétabilité du modèle final.
Fidelity Score
Métrique évaluant la fidélité d'une explication ou d'un modèle surrogate en mesurant à quel point elle reproduit fidèlement les prédictions du modèle original.
Interpretable Neural Networks
Architectures de réseaux de neurones conçues spécifiquement pour être interprétables, comme les réseaux avec contraintes de monotonicité ou les réseaux à prototypes.