Glosario IA
El diccionario completo de la Inteligencia Artificial
XAI (IA Explicable)
Conjunto de técnicas y métodos que permiten hacer comprensibles los sistemas de inteligencia artificial para los humanos, transformando los procesos de decisión complejos en explicaciones interpretables.
Interpretabilidad local
Capacidad de explicar la predicción de un modelo para una instancia específica, identificando las características que influyeron en esa decisión particular.
Interpretabilidad global
Comprensión general del comportamiento de un modelo de IA, explicando cómo toma sus decisiones de manera general en todo el conjunto de datos.
Caja negra
Sistema de IA cuyo funcionamiento interno es opaco o incomprensible para los humanos, dificultando la explicación de sus decisiones y procesos de razonamiento.
LIME (Explicaciones Locales Interpretables Modelo-agnósticas)
Técnica de interpretación que explica las predicciones individuales creando modelos locales simples que aproximan el comportamiento del modelo complejo alrededor de una predicción específica.
SHAP (Explicaciones Aditivas de Shapley)
Método de explicación basado en la teoría de juegos que cuantifica el impacto de cada característica en la predicción final distribuyendo equitativamente el crédito entre todas las características.
Trazabilidad de las decisiones
Capacidad de seguir y documentar cada paso del proceso de decisión de un sistema de IA, desde los datos de entrada hasta el resultado final, para garantizar la auditabilidad.
Auditabilidad de la IA
Posibilidad de examinar sistemáticamente un sistema de IA para evaluar su conformidad con las normas, regulaciones y requisitos éticos, especialmente en cuanto a sesgos y discriminación.
Explicabilidad de los modelos
Capacidad de un sistema de IA para proporcionar justificaciones comprensibles y coherentes de sus decisiones, permitiendo a los usuarios comprender el razonamiento subyacente.
Importancia de las características
Medida cuantitativa de la influencia de cada variable de entrada en las predicciones del modelo, permitiendo identificar los factores más determinantes en la toma de decisiones.
Visualización de decisiones
Técnicas gráficas que representan el proceso de decisión de un modelo de IA, permitiendo a los usuarios comprender intuitivamente cómo se generan las predicciones.
Metaexplicaciones
Explicaciones de segundo nivel que describen por qué el modelo de IA produce ciertas explicaciones en lugar de otras, aumentando la confianza en el propio sistema explicativo.
Informes automatizados
Sistemas que generan automáticamente informes detallados explicando las decisiones de la IA, incluyendo los datos utilizados, el razonamiento seguido y los niveles de confianza.
Validación humana
Proceso mediante el cual expertos humanos examinan y validan las explicaciones proporcionadas por los sistemas de IA para garantizar su pertinencia y exactitud.
Documentación de modelos
Registro estructurado y completo de las características, rendimiento, limitaciones y comportamientos de un modelo de IA para asegurar su transparencia y reutilizabilidad.
Diagnóstico de sesgos
Análisis sistemático de las decisiones de un modelo para identificar, cuantificar y comprender las discriminaciones potenciales basadas en características protegidas o sensibles.
Mapas de calor de atención
Visualizaciones que muestran las zonas o características en las que un modelo de IA se centra especialmente para tomar su decisión, facilitando la comprensión de su razonamiento.