Glosario IA
El diccionario completo de la Inteligencia Artificial
Igualdad de Oportunidades (Equalized Odds)
Criterio de equidad que estipula que las tasas de verdaderos positivos y falsos positivos de un modelo deben ser iguales entre los diferentes grupos demográficos, asegurando un rendimiento predictivo uniforme.
Auditoría de Equidad (Fairness Audit)
Proceso sistemático de evaluación de un modelo de IA para identificar, cuantificar y documentar los sesgos y las disparidades de rendimiento entre los grupos, utilizando métricas de equidad y análisis estadísticos.
Eliminación de Sesgos (Debiasing)
Conjunto de técnicas destinadas a reducir o eliminar los sesgos en los datos de entrenamiento, los algoritmos o las predicciones de un modelo, incluyendo el preprocesamiento, el procesamiento intermedio y el postprocesamiento.
Atributos Sensibles
Variables demográficas o características personales (tales como la raza, la etnia, el género, la edad, la religión) que están protegidas por la ley y cuyo uso en la toma de decisiones automatizada puede conllevar discriminación.
Puntuación de Equidad (Fairness Score)
Métrica agregada que cuantifica el nivel global de equidad de un modelo combinando varios indicadores de sesgo (como la paridad demográfica o la igualdad de oportunidades) en un único valor comparable.
Ponderación Equitativa (Fair Reweighing)
Técnica de preprocesamiento que ajusta el peso de los ejemplos de entrenamiento para diferentes grupos demográficos con el fin de corregir los desequilibrios y satisfacer criterios de equidad específicos como la paridad demográfica.
Prueba de Robustez Equitativa (Fairness Robustness Test)
Evaluación que verifica si las métricas de equidad de un modelo permanecen estables ante ligeras perturbaciones de los datos o cambios en la distribución de la población, garantizando una equidad duradera.