Glosario IA
El diccionario completo de la Inteligencia Artificial
AutoML Interpretable
Subdominio del AutoML que tiene como objetivo generar automáticamente modelos de aprendizaje automático que optimizan simultáneamente el rendimiento predictivo y la capacidad de interpretación humana de las decisiones.
Compromiso Rendimiento-Interpretabilidad
Dilema fundamental en AutoML donde la mejora de la precisión predictiva a menudo se acompaña de una disminución de la interpretabilidad del modelo, requiriendo un equilibrio óptimo según el caso de uso.
Importancia de Características Local
Evaluación del impacto de cada característica en una predicción específica, explicando por qué el modelo tomó una decisión particular para un individuo dado.
Explicabilidad vs Interpretabilidad
Distinción donde la interpretabilidad se refiere a la comprensión intrínseca del mecanismo del modelo, mientras que la explicabilidad tiene como objetivo proporcionar justificaciones comprensibles de las predicciones, incluso para modelos opacos.
Modelos Sustitutos
Modelos simples e interpretables entrenados para aproximar el comportamiento de un modelo complejo, permitiendo generar explicaciones globales o locales de las decisiones del modelo original.
Explicaciones Agnósticas al Modelo
Técnicas de interpretación que pueden aplicarse a cualquier tipo de modelo de aprendizaje automático sin necesidad de conocimientos sobre su arquitectura interna.
Modelos Basados en Reglas
Modelos que utilizan conjuntos de reglas SI-ENTONCES interpretables para tomar decisiones, ofreciendo un equilibrio natural entre rendimiento y transparencia en el AutoML.
Interpretabilidad Post-hoc
Enfoque que consiste en analizar y explicar un modelo ya entrenado sin modificar su estructura, a diferencia de los modelos intrínsecamente interpretables.
Selección de Características Automatizada
Proceso AutoML que identifica automáticamente el subconjunto óptimo de variables predictoras que maximiza el rendimiento conservando la interpretabilidad del modelo final.
Puntuación de Fidelidad
Métrica que evalúa la fidelidad de una explicación o un modelo sustituto midiendo qué tan fielmente reproduce las predicciones del modelo original.
Redes Neuronales Interpretables
Arquitecturas de redes neuronales diseñadas específicamente para ser interpretables, como las redes con restricciones de monotonicidad o las redes de prototipos.