Глоссарий ИИ
Полный словарь искусственного интеллекта
AutoML Interprétable
Sous-domaine de l'AutoML visant à générer automatiquement des modèles d'apprentissage automatique qui optimisent simultanément la performance prédictive et la capacité d'interprétation humaine des décisions.
Compromis Performance-Interprétabilité
Dilemme fondamental en AutoML où l'amélioration de la précision prédictive s'accompagne souvent d'une diminution de l'interprétabilité du modèle, nécessitant un équilibre optimal selon le cas d'usage.
Feature Importance Locale
Évaluation de l'impact de chaque feature sur une prédiction spécifique, expliquant pourquoi le modèle a pris une décision particulière pour un individu donné.
Explicabilité vs Interprétabilité
Distinction où l'interprétabilité concerne la compréhension intrinsèque du mécanisme du modèle, tandis que l'explicabilité vise à fournir des justifications compréhensibles des prédictions, même pour modèles opaques.
Surrogate Models
Modèles simples et interprétables entraînés pour approximer le comportement d'un modèle complexe, permettant de générer des explications globales ou locales des décisions du modèle original.
Model-agnostic Explanations
Techniques d'interprétation pouvant s'appliquer à tout type de modèle d'apprentissage automatique sans nécessiter de connaissances sur son architecture interne.
Rule-based Models
Modèles utilisant des ensembles de règles SI-ALORS interprétables pour prendre des décisions, offrant un équilibre naturel entre performance et transparence dans l'AutoML.
Interprétabilité Post-hoc
Approche consistant à analyser et expliquer un modèle déjà entraîné sans modifier sa structure, contrairement aux modèles intrinsèquement interprétables.
Автоматический отбор признаков
Процесс в AutoML, который автоматически определяет оптимальное подмножество предикторных переменных, максимизирующее производительность модели при сохранении её интерпретируемости.
Оценка точности (Fidelity Score)
Метрика, оценивающая точность объяснения или суррогатной модели путём измерения того, насколько точно она воспроизводит предсказания исходной модели.
Интерпретируемые нейронные сети
Архитектуры нейронных сетей, специально разработанные для обеспечения интерпретируемости, например, сети с ограничениями монотонности или сети на основе прототипов.