Glosario IA
El diccionario completo de la Inteligencia Artificial
Métodos de importancia local (LIME)
Técnicas de explicación que analizan las predicciones individuales para comprender cómo un modelo toma una decisión específica.
Métodos SHAP (explicaciones aditivas de Shapley)
Enfoque basado en la teoría de juegos para cuantificar el impacto de cada característica en las predicciones del modelo.
Análisis de características
Estudio sistemático de la importancia, la pertinencia y el impacto de las variables de entrada en las predicciones del modelo.
Visualización de modelos
Conjunto de técnicas gráficas que permiten representar visualmente el comportamiento interno y las decisiones de los modelos de IA.
Análisis de contrafactuales
Generación de escenarios alternativos para comprender qué modificaciones mínimas en las entradas cambiarían la predicción del modelo.
Reglas de interpretación
Extracción de reglas lógicas simples y comprensibles a partir de modelos complejos como las redes neuronales.
Interpretabilidad post-hoc
Métodos aplicados después del entrenamiento para explicar las decisiones de modelos inicialmente no interpretables.
Interpretabilidad por diseño
Enfoques donde la transparencia se integra desde el diseño del modelo, creando algoritmos naturalmente explicables.
Explicaciones causales
Análisis de las relaciones de causa y efecto en las decisiones del modelo para ir más allá de las simples correlaciones.
Análisis de sesgos algorítmicos
Detección, cuantificación y explicación de los sesgos sistemáticos en las predicciones de los modelos de IA.
Métricas de fidelidad de las explicaciones
Conjunto de medidas para evaluar la calidad y la precisión de las explicaciones generadas por las técnicas de interpretabilidad.
Árboles de decisión interpretables
Estructuras arbóreas específicamente diseñadas para ofrecer decisiones transparentes y fácilmente comprensibles.
Mapas de pertinencia (Saliency Maps)
Técnicas de visualización que resaltan las regiones o características más influyentes en los datos de entrada.
Explicaciones multimodales
Enfoques de interpretación adaptados a modelos que procesan simultáneamente varios tipos de datos (texto, imagen, audio).
Auditoría de transparencia
Evaluación sistemática e independiente de la transparencia, de la equidad y de la fiabilidad de los modelos de IA.