Glosario IA
El diccionario completo de la Inteligencia Artificial
Interpretabilidad Global vs Local
Distinción entre las técnicas que explican el comportamiento global de un modelo y las que analizan una predicción específica
Métodos Agnósticos de Modelo
Técnicas de interpretación que funcionan con cualquier tipo de modelo sin depender de su arquitectura
Análisis de Importancia de las Características
Identificación y cuantificación de la influencia relativa de cada variable de entrada sobre las predicciones del modelo
Visualizaciones Interpretables
Representaciones gráficas y visuales que permiten comprender el funcionamiento interno y las decisiones de los modelos
Métodos basados en reglas
Extracción y generación de reglas lógicas simples a partir de modelos complejos para hacerlos comprensibles
Explicaciones contrafactuales
Generación de ejemplos modificados mínimamente para mostrar cómo cambiar una predicción explorando los límites de decisión
Análisis de Sensibilidad
Estudio sistemático de cómo las variaciones en las entradas afectan las salidas del modelo para comprender su robustez
Modelos sustitutos
Uso de modelos simples e interpretables para aproximar y explicar el comportamiento de modelos complejos
Atribución de características
Distribución de la responsabilidad de una predicción entre las diferentes características de entrada según su contribución
Interpretabilidad de las Redes Neuronales
Técnicas específicas para comprender y visualizar el funcionamiento de los modelos de aprendizaje profundo
Equidad y Detección de Sesgos
Análisis sistemático de los prejuicios y discriminaciones potenciales en las decisiones de los modelos de IA
Interpretabilidad Causal
Identificación de las relaciones de causa y efecto en los modelos para ir más allá de las simples correlaciones
Métricas de Interpretabilidad
Cuantificación y evaluación objetiva del grado de interpretabilidad de los diferentes modelos y técnicas
Explicaciones por prototipo
Uso de ejemplos representativos para explicar las decisiones del modelo por comparación con casos típicos
Análisis de los Caminos de Decisión
Trazado y visualización de los caminos lógicos seguidos por el modelo para llegar a una predicción específica