KI-Glossar
Das vollständige Wörterbuch der Künstlichen Intelligenz
Fidelity
Métrique quantifiant la cohérence entre les explications générées et les prédictions effectives du modèle, mesurant si l'explication représente fidèlement le comportement du modèle.
Sparsity
Indicateur évaluant la concision des explications en mesurant le nombre minimal de caractéristiques nécessaires pour justifier une prédiction, favorisant des explications simplifiées.
Stability
Mesure de robustesse évaluant la cohérence des explications lorsque les entrées subissent de légères variations, assurant la fiabilité des interprétations face aux perturbations.
Completeness
Métrique évaluant si une explication couvre exhaustivement tous les facteurs pertinents ayant influencé la décision du modèle, évitant les explications partielles ou biaisées.
Consistency
Indicateur mesurant si des modèles aux performances similaires génèrent des explications cohérentes pour les mêmes entrées, assurant l'uniformité inter-modèles.
Faithfulness
Métrique évaluant dans quelle mesure une explication reflète précisément le processus de raisonnement interne du modèle, distinguant la corrélation de la causalité réelle.
Proximity Metric
Mesure quantifiant la distance entre l'explication générée et le comportement réel du modèle, évaluant la qualité de l'approximation interprétative.
Comprehensibility Score
Indicateur mesurant la facilité avec laquelle les humains peuvent comprendre et interpréter les explications générées, combinant complexité syntaxique et cognitive.
Necessity Measure
Métrique quantifiant l'importance critique de chaque caractéristique dans l'explication, évaluant si leur suppression altère significativement la prédiction du modèle.
Sufficiency Index
Indicateur mesurant si l'ensemble des caractéristiques expliquées est suffisant pour justifier complètement la prédiction du modèle sans informations additionnelles.
Robustness Score
Métrique évaluant la résistance des explications aux attaques adversariales et aux manipulations intentionnelles, assurant la fiabilité en conditions hostiles.
Interpretability-Performance Trade-off
Métrique quantifiant le compromis entre la complexité du modèle (performance) et la qualité des explications générées (interprétabilité).
Explanation Uncertainty
Mesure quantifiant le niveau de confiance ou d'incertitude associé aux explications générées, essentiel pour évaluer leur fiabilité.
Counterfactual Validity
Métrique évaluant la pertinence et la réalisabilité des exemples contrefactuels générés pour expliquer les décisions du modèle.