KI-Glossar
Das vollständige Wörterbuch der Künstlichen Intelligenz
Model Risk Management
Ensemble de pratiques et de contrôles visant à identifier, évaluer, surveiller et atténuer les risques associés au développement et au déploiement de modèles de machine learning, notamment les risques opérationnels, réglementaires et éthiques.
Explainability AI (XAI)
Ensemble de techniques et de méthodes qui permettent de rendre les décisions des modèles d'IA compréhensibles et interprétables par les humains, essentielles pour l'audit, la confiance et la conformité réglementaire.
Model Audit Trail
Journal chronologique et immuable qui enregistre toutes les actions et modifications apportées à un modèle tout au long de son cycle de vie, depuis sa création jusqu'à sa mise en production, pour assurer la traçabilité et la conformité.
Algorithmic Impact Assessment (AIA)
Processus d'évaluation systématique des conséquences potentielles d'un système algorithmique sur les individus, les organisations et la société, visant à identifier et à atténuer les impacts négatifs avant le déploiement.
Fairness Metric
Indicateur quantitatif utilisé pour mesurer et évaluer le niveau d'équité d'un modèle d'IA, en vérifiant si ses prédictions présentent des biais systématiques à l'encontre de groupes démographiques protégés.
Compliance-as-Code
Pratique consistant à automatiser la vérification et l'application des politiques de conformité réglementaire et organisationnelle directement dans le pipeline de développement et de déploiement des modèles d'IA.
Model Drift Monitoring
Processus continu de surveillance des performances d'un modèle en production pour détecter les dégradations dues aux changements dans les distributions des données (data drift) ou dans les relations entre les variables (concept drift).
Regulatory Sandboxing
Environnement contrôlé et supervisé par les autorités réglementaires, permettant aux entreprises de tester des innovations en IA avec des allègements temporaires de certaines obligations réglementaires, sous surveillance étroite.
Model Transparency Report
Document public détaillant les caractéristiques, les performances, les limites et les impacts d'un modèle d'IA déployé, visant à informer les utilisateurs et les régulateurs sur son fonctionnement et sa gestion.
Stakeholder Impact Analysis
Méthode d'évaluation systématique des effets d'un système d'IA sur toutes les parties prenantes concernées, y compris les utilisateurs finaux, les employés, les clients et la société au sens large.
Model Accountability Matrix
Outil de gouvernance qui définit et documente clairement les rôles, les responsabilités et les obligations de chaque acteur impliqué dans le cycle de vie d'un modèle, du développement à la maintenance en production.