Glosario IA
El diccionario completo de la Inteligencia Artificial
Prueba de Impacto Dispar
Método estadístico que evalúa si un algoritmo produce resultados desfavorables de manera desproporcionada para ciertos grupos demográficos protegidos.
Análisis de Paridad
Evaluación cuantitativa que mide si las tasas de predicciones positivas son equivalentes entre diferentes grupos demográficos en los resultados de un modelo de IA.
Métrica de Sesgo
Indicador cuantitativo que mide el nivel de discriminación o inequidad presente en las predicciones de un sistema de inteligencia artificial.
Validación Cruzada Ética
Técnica de evaluación iterativa que prueba la robustez de un modelo frente a los sesgos en diferentes subconjuntos de datos representativos de poblaciones variadas.
Mapeo de Riesgos de IA
Proceso sistemático de identificación, evaluación y documentación de los riesgos éticos potenciales asociados al despliegue de un sistema de IA.
Transparencia de Modelado
Capacidad de hacer comprensibles los mecanismos internos, los datos de entrenamiento y los procesos de decisión de un algoritmo de inteligencia artificial.
Explicabilidad del Modelo
Conjunto de técnicas que permiten interpretar y explicar las predicciones individuales de un modelo de IA de manera comprensible para los humanos.
Vigilancia Continua de Sesgos
Sistema de monitoreo permanente que detecta la emergencia o amplificación de sesgos en un modelo de IA desplegado en producción.
Evaluación de Impacto Ético
Análisis exhaustivo de las consecuencias potenciales de un sistema de IA en los derechos humanos, la equidad y la inclusión antes y durante su implementación.
Gobernanza Algorítmica
Marco organizacional que define las responsabilidades, procesos y controles para asegurar el desarrollo y uso ético de los sistemas de IA.
Certificación Ética de IA
Proceso formal de validación que certifica que un sistema de inteligencia artificial cumple con las normas éticas y los estándares de equidad establecidos.
Auditabilidad del Sistema
Capacidad de un sistema de IA para ser examinado de manera exhaustiva e independiente para verificar su conformidad con los requisitos éticos y regulatorios.
Análisis de Sensibilidad de Sesgos
Evaluación sistemática de la variación en el rendimiento y los sesgos de un modelo ante cambios en los datos de entrada o los hiperparámetros.
Puntuación de Equidad
Indicador compuesto que cuantifica el nivel global de equidad de un algoritmo agregando múltiples métricas de sesgo y discriminación.
Prueba de Calibración
Verificación estadística que asegura que las probabilidades predichas por un modelo corresponden a las frecuencias reales observadas en diferentes subgrupos demográficos.