Glosario IA
El diccionario completo de la Inteligencia Artificial
Explicación Intrínseca
Enfoque donde la interpretabilidad está integrada directamente en la estructura del modelo desde su concepción, haciendo que el modelo sea naturalmente transparente.
Modelo Caja Negra
Sistema de IA cuyo funcionamiento interno es opaco o complejo, dificultando la comprensión directa de sus mecanismos de decisión.
Modelo Caja Blanca
Modelo intrínsecamente transparente cuyos mecanismos internos y procesos de decisión son directamente observables y comprensibles.
Análisis de Sensibilidad
Técnica post-hoc que evalúa cómo las variaciones de las características de entrada afectan las predicciones del modelo para identificar factores influyentes.
Modelo Interpretable por Naturaleza
Arquitectura intrínseca diseñada para ser transparente, como árboles de decisión o regresión lineal, que no requiere explicaciones externas.
Aproximación Local
Enfoque post-hoc que explica una predicción específica creando un modelo simple que aproxima el comportamiento del modelo complejo únicamente en la vecindad de esa predicción.
Aproximación Global
Método post-hoc que busca crear un modelo simplificado que imite el comportamiento general del modelo complejo en todo su espacio de entrada.
Método de Perturbación
Técnica post-hoc que analiza el impacto en las predicciones modificando sistemáticamente las características de entrada para comprender su papel en la decisión.
Mapa de Saliencia
Visualización post-hoc que muestra las regiones o características más influyentes en los datos de entrada para una predicción específica del modelo.
Árbol de Decisión Interpretable
Modelo intrínseco que utiliza una estructura jerárquica de reglas si-entonces para tomar decisiones, ofreciendo una trazabilidad completa del razonamiento.
Análisis Contrafactual
Método post-hoc que identifica las modificaciones mínimas necesarias en las características de entrada para cambiar la predicción del modelo hacia un resultado diferente.
Modelo Proxy
Modelo simple e interpretable entrenado post-hoc para imitar el comportamiento de un modelo complejo, sirviendo como aproximación para facilitar la interpretación.
Modelo Híbrido Interpretable
Arquitectura intrínseca que combina componentes complejos con mecanismos de interpretación integrados para equilibrar rendimiento y transparencia.
Atribución de Características
Proceso post-hoc que asigna puntuaciones de contribución a cada característica de entrada para explicar su papel individual en una predicción específica.