Glosario IA
El diccionario completo de la Inteligencia Artificial
Análisis Contrafactual
Método de interpretabilidad que identifica las modificaciones mínimas a realizar en las características de una instancia para que la predicción del modelo cambie hacia una salida deseada, creando escenarios hipotéticos 'qué pasaría si'.
Explicación por Oposición
Técnica que explica una predicción contrastándola con otra predicción plausible, destacando las características que justifican por qué el modelo eligió una opción en lugar de otra.
Reglas de Anclaje (Anchors)
Explicaciones locales en forma de reglas condicionales que 'anclan' la predicción de un modelo alrededor de una instancia específica, garantizando que la predicción permanezca inalterada en un vecindario definido por estas reglas.
Explicación Contrastiva por Pares
Enfoque que genera explicaciones comparando directamente dos instancias distintas, a menudo una predicción correcta y una incorrecta, para aislar los factores decisivos de la decisión del modelo.
Escenarios Contrafactuales Múltiples
Generación de un conjunto de explicaciones contrafactuales variadas para una sola predicción, ofreciendo una visión más rica de los caminos alternativos y las diferentes formas de alcanzar un resultado diferente.
Espacio Contrafactual Accionable
Conjunto de las modificaciones posibles sobre las características de una instancia que son tanto realizables en el mundo real como relevantes para el usuario, constriñendo la generación de explicaciones contrafactuales a escenarios plausibles.
Diagnóstico por Diferencia
Método que analiza las desviaciones de comportamiento de un modelo entre dos contextos o conjuntos de datos (ej: antes y después de un drift) para comprender los cambios en su lógica de decisión.
Explicación por Caso Prototípico
Técnica que explica una predicción contrastándola con el caso más representativo (prototipo) de la clase predicha, destacando las características que acercan o alejan la instancia de este prototipo.
Análisis de Sensibilidad Comparativa
Evaluación que mide cómo la predicción de un modelo para una instancia dada reacciona a variaciones de sus características, comparando esta reacción con la de otras instancias o con un caso de referencia.
Explicación por Sustitución de Modelo
Enfoque que interpreta una decisión de un modelo complejo (caja negra) comparándola con la decisión de un modelo más simple e interpretable (ej: árbol de decisión) entrenado en el mismo vecindario local.
Mapa de Desviación con Respecto a la Norma
Visualización que resalta las características de una instancia que se desvían significativamente de la distribución 'normal' o esperada de los datos, explicando así por qué su predicción es atípica.
Razonamiento por Casos Contrastantes
Metodología de explicación inspirada en el razonamiento jurídico, donde una decisión se justifica comparándola con casos pasados similares pero con resultados diferentes, para aislar el elemento 'factor decisivo'.
Explicación por Criterio de Exclusión
Técnica que explica por qué un modelo no eligió cierta clase identificando las características que activamente condujeron a la exclusión de esa opción en el proceso de decisión.
Análisis de Frontera de Decisión Contrastante
Examen de las características que definen la frontera entre dos clases predichas por el modelo, concentrándose en las instancias cercanas a este límite para comprender los factores de cambio.
Explicación por Inversión de Predicción
Proceso que consiste en invertir la predicción de un modelo (por ejemplo, pasar de 'rechazado' a 'aceptado') y analizar los cambios de características necesarios, proporcionando una explicación sobre lo que le falta a la instancia original.
Comparación de Perfiles de Atribución
Método que compara los perfiles de importancia de las características (generados por SHAP, LIME, etc.) entre dos instancias o grupos de instancias para revelar las diferencias sutiles en la lógica del modelo.
Explicación por Escenario Adverso
Generación de un escenario 'peor de los casos' que, aunque cercano a la instancia original, conduce a una predicción muy desfavorable, ayudando a comprender la robustez y los puntos débiles de la decisión del modelo.