AI 용어집
인공지능 완전 사전
Local interpretability methods
Techniques that explain predictions for individual data instances.
Global interpretability methods
Approaches that describe the global behavior of a model on the entire dataset.
Feature attribution
Techniques quantifying the importance and impact of each variable on the model's predictions.
Naturally transparent models
AI models whose structure is inherently understandable without additional techniques
Post-hoc explainability
Methods applied after training to interpret complex models (black boxes).
Model visualization
Graphical and visual representations facilitating the understanding of how models work.
Contre-exemples et explications par cas
Génération d'exemples opposés pour expliquer les frontières de décision du modèle.
Évaluation de l'explicabilité
Métriques et méthodes pour mesurer la qualité, la fidélité et l'utilité des explications générées.
Explicabilité causale
Techniques identifiant les relations de cause à effet plutôt que les simples corrélations.
Explications en langage naturel
Génération automatique d'explications textuelles compréhensibles par des non-experts.
Interactions homme-machine pour l'explicabilité
Interfaces et systèmes interactifs permettant aux utilisateurs d'explorer et comprendre les modèles.
Robustesse et confiance dans les explications
Étude de la stabilité et de la fiabilité des explications face aux variations et adversaires.