Glosario IA
El diccionario completo de la Inteligencia Artificial
Fidelidad
Métrica que cuantifica la coherencia entre las explicaciones generadas y las predicciones efectivas del modelo, midiendo si la explicación representa fielmente el comportamiento del modelo.
Esparsidad
Indicador que evalúa la concisión de las explicaciones midiendo el número mínimo de características necesarias para justificar una predicción, favoreciendo explicaciones simplificadas.
Estabilidad
Medida de robustez que evalúa la coherencia de las explicaciones cuando las entradas sufren ligeras variaciones, asegurando la fiabilidad de las interpretaciones frente a las perturbaciones.
Completitud
Métrica que evalúa si una explicación cubre exhaustivamente todos los factores relevantes que influyeron en la decisión del modelo, evitando explicaciones parciales o sesgadas.
Consistencia
Indicador que mide si modelos con rendimientos similares generan explicaciones coherentes para las mismas entradas, asegurando la uniformidad entre modelos.
Fidelidad
Métrica que evalúa en qué medida una explicación refleja precisamente el proceso de razonamiento interno del modelo, distinguiendo la correlación de la causalidad real.
Métrica de Proximidad
Medida que cuantifica la distancia entre la explicación generada y el comportamiento real del modelo, evaluando la calidad de la aproximación interpretativa.
Puntuación de Comprensibilidad
Indicador que mide la facilidad con la que los humanos pueden comprender e interpretar las explicaciones generadas, combinando complejidad sintáctica y cognitiva.
Medida de Necesidad
Métrica que cuantifica la importancia crítica de cada característica en la explicación, evaluando si su supresión altera significativamente la predicción del modelo.
Índice de Suficiencia
Indicador que mide si el conjunto de características explicadas es suficiente para justificar completamente la predicción del modelo sin información adicional.
Puntuación de Robustez
Métrica que evalúa la resistencia de las explicaciones a ataques adversarios y manipulaciones intencionales, asegurando la fiabilidad en condiciones hostiles.
Compromiso Interpretación-Rendimiento
Métrica que cuantifica el compromiso entre la complejidad del modelo (rendimiento) y la calidad de las explicaciones generadas (interpretabilidad).
Incertidumbre de la Explicación
Medida que cuantifica el nivel de confianza o incertidumbre asociado a las explicaciones generadas, esencial para evaluar su fiabilidad.
Validez Contrafactual
Métrica que evalúa la relevancia y la viabilidad de los ejemplos contrafactuales generados para explicar las decisiones del modelo.