Glosario IA
El diccionario completo de la Inteligencia Artificial
Explicabilidad (XAI)
Conjunto de técnicas y métodos que permiten que las decisiones de los modelos de IA sean comprensibles para los humanos, esenciales para el cumplimiento normativo y la confianza de los usuarios.
Interpretabilidad
Capacidad de un modelo de IA para presentar sus mecanismos internos de manera comprensible, distinguiendo la interpretabilidad intrínseca (modelos transparentes) de la interpretabilidad post-hoc.
Derecho a la explicación RGPD
Obligación legal para las organizaciones de proporcionar una explicación clara y significativa de las decisiones automatizadas que afectan a los individuos, de acuerdo con el artículo 22 del RGPD.
Auditoría algorítmica
Proceso sistemático de evaluación de los algoritmos de IA para verificar su cumplimiento con los requisitos legales, éticos y técnicos, incluyendo pruebas de sesgo y documentación.
Caja negra
Modelo de IA cuyos mecanismos internos son opacos y difícilmente interpretables, planteando desafíos importantes para la auditoría regulatoria y la transparencia.
SHAP (SHapley Additive exPlanations)
Método de explicación basado en la teoría de juegos que cuantifica el impacto de cada característica en la predicción, ofreciendo garantías teóricas para la auditoría regulatoria.
LIME (Local Interpretable Model-agnostic Explanations)
Técnica de interpretación local que explica las predicciones individuales aproximando el modelo complejo mediante un modelo simple interpretable localmente.
Importancia de características
Medida cuantitativa de la influencia relativa de cada variable de entrada en las predicciones del modelo, esencial para documentar los factores de decisión en auditoría.
Contrafactuales
Explicaciones que muestran qué modificaciones mínimas de las características de entrada cambiarían la decisión del modelo, ayudando a comprender y cuestionar las decisiones automatizadas.
Documentación de modelo
Registro estructurado y completo de las características, rendimiento, limitaciones y procesos de decisión de un modelo de IA, requerido para el cumplimiento normativo.
Trazabilidad de decisiones
Capacidad de seguir y documentar todo el proceso de decisión de un sistema de IA, desde los datos de entrada hasta la salida final, indispensable para la auditoría legal.
Evaluación de impacto de IA
Evaluación sistemática de los riesgos potenciales de un sistema de IA sobre los derechos fundamentales y la sociedad, obligatoria según la regulación europea sobre IA.
Justificación decisional
Obligación de proporcionar razones claras y específicas que respalden cada decisión automatizada, permitiendo a los individuos comprender y cuestionar los resultados.
Métricas de equidad
Indicadores cuantitativos que miden los sesgos y discriminaciones potenciales en las decisiones algorítmicas, esenciales para el cumplimiento de las regulaciones antidiscriminatorias.
Pruebas de robustez
Evaluaciones sistemáticas de la estabilidad de las predicciones de un modelo frente a variaciones de los datos de entrada, garantizando la fiabilidad requerida para la auditoría regulatoria.
Análisis de sensibilidad global
Método que evalúa el impacto global de cada variable en las predicciones del modelo sobre el conjunto de datos, proporcionando una visión general para la auditoría regulatoria.
Registro de algoritmos
Base de datos centralizada que recopila todos los algoritmos de IA utilizados por una organización, con sus características y niveles de riesgo, requerida para la transparencia regulatoria.