Glosario IA
El diccionario completo de la Inteligencia Artificial
Discriminación sistemática
Forma de discriminación integrada en las estructuras y procesos sistémicos, donde los algoritmos reproducen y amplifican las desigualdades existentes de manera automática y a gran escala. Se manifiesta por decisiones desfavorables persistentes hacia grupos específicos.
Igualdad de odds
Criterio de equidad que exige que las tasas de verdaderos positivos y falsos positivos sean iguales entre diferentes grupos demográficos. Este enfoque más estricto que la igualdad de oportunidades garantiza un rendimiento predictivo equivalente entre grupos.
Impacto dispar
Concepto legal y ético que identifica cuándo una política o práctica aparentemente neutra tiene efectos desproporcionados y negativos sobre grupos protegidos. En la IA, se aplica cuando los algoritmos producen resultados injustos incluso sin intención discriminatoria.
Sesgo de representación
Subrepresentación o sobrerrepresentación sistemática de ciertos grupos en los conjuntos de datos, lo que conduce a modelos menos eficientes para los grupos subrepresentados. Este sesgo afecta directamente la calidad y equidad de las predicciones.
Justicia contrafactual
Enfoque de equidad basado en la comparación de los resultados para un individuo con y sin una característica protegida, manteniendo todas las demás condiciones iguales. Busca garantizar que las decisiones no cambien únicamente debido a atributos sensibles.