KI-Glossar
Das vollständige Wörterbuch der Künstlichen Intelligenz
Black Box Models
Modèles d'apprentissage automatique dont les mécanismes internes de décision ne sont pas directement observables ou compréhensibles par les humains. Ces modèles nécessitent des techniques d'explication post-hoc pour interpréter leurs prédictions.
White Box Models
Modèles d'apprentissage automatique dont la structure interne est intrinsèquement transparente et interprétable par les humains sans nécessiter d'outils additionnels. Les arbres de décision simples et les régressions linéaires sont des exemples typiques.
Visualisations d'attention (Attention Visualization)
Interfaces graphiques représentant visuellement les mécanismes d'attention des modèles de deep learning, notamment dans les réseaux de neurones et transformers. Ces visualisations permettent d'identifier les parties des données d'entrée sur lesquelles le modèle se concentre.
Interfaces de diagnostic de modèle
Systèmes interactifs permettant aux analystes d'explorer le comportement d'un modèle à travers différentes perspectives et niveaux de granularité. Ces interfaces combinent souvent plusieurs techniques d'explication pour fournir une vue complète du modèle.
Explications locales vs globales
Distinction entre les explications portant sur une prédiction individuelle (locales) et celles décrivant le comportement général du modèle (globales). Les deux niveaux d'explication sont complémentaires pour une compréhension complète du système.
Rule-based Explanations
Explications formulées sous forme de règles logiques facilement compréhensibles par les humains, extraites automatiquement de modèles complexes. Ces règles traduisent le comportement du modèle en conditions simples de type SI-ALORS.
Interactive Machine Learning
Paradigme où les humains interagissent directement avec les systèmes d'apprentissage automatique en temps réel pour améliorer la compréhension mutuelle. Cette approche combine l'expertise humaine avec les capacités computationnelles des modèles.
Explications causales
Explications qui identifient les relations de cause à effet dans les décisions du modèle, au-delà des simples corrélations. Les explications causales sont essentielles pour comprendre les mécanismes sous-jacents du comportement du modèle.
Trustworthiness in AI
Concept multidimensionnel englobant la fiabilité, la robustesse, l'équité et l'explicabilité des systèmes d'IA. La confianceworthiness est cruciale pour l'adoption des technologies IA dans les domaines critiques.
Explainability Dashboard
Interface centralisée agrégeant multiples visualisations et outils d'explication pour permettre une analyse complète du modèle. Les dashboards d'explicabilité facilitent l'exploration interactive des prédictions et du comportement global du modèle.
Human-in-the-Loop Explanations
Systèmes où l'intervention humaine est intégrée dans le processus de génération et de validation des explications du modèle. Cette approche garantit que les explications sont pertinentes et compréhensibles pour les utilisateurs finaux.
Interpretability Methods
Ensemble formel de techniques mathématiques et algorithmiques permettant d'extraire et de représenter l'information interprétable depuis des modèles complexes. Ces méthodes varient selon le type de modèle et le niveau d'explication souhaité.
Partial Dependence Plots
Visualisations montrant l'effet marginal d'une ou deux caractéristiques sur la prédiction du modèle, en moyennant sur les autres variables. Les PDP sont particulièrement utiles pour comprendre les relations non linéaires dans les modèles complexes.