Glosario IA
El diccionario completo de la Inteligencia Artificial
Equidad Algorítmica
Principio fundamental que busca garantizar que los sistemas de inteligencia artificial produzcan resultados justos y no discriminatorios para todos los individuos o grupos, independientemente de sus características protegidas.
Sesgo Algorítmico
Distorsión sistemática en las predicciones o decisiones de un algoritmo que favorece o perjudica a ciertos grupos de manera injusta, a menudo resultante de datos de entrenamiento sesgados o de un diseño inadecuado.
Paridad Demográfica
Criterio de equidad que exige que la proporción de resultados positivos sea idéntica entre diferentes grupos demográficos, independientemente de las características individuales reales.
Igualdad de Oportunidades
Principio de equidad que garantiza que las tasas de verdaderos positivos y falsos positivos sean iguales entre diferentes grupos, asegurando un rendimiento de predicción similar para todas las poblaciones.
Equidad de Calibración
Medida de equidad que exige que para cada puntuación de predicción dada, la probabilidad real del resultado sea la misma para todos los grupos demográficos concernidos.
Equidad Contrafactual
Enfoque de equidad que evalúa si una predicción permanecería sin cambios si las características protegidas de un individuo fueran diferentes, manteniendo los otros atributos constantes.
Equidad Individual
Principio que estipula que individuos similares deberían recibir tratamientos o predicciones similares por el sistema de IA, garantizando una coherencia a nivel individual.
Equidad de Grupo
Medida de equidad que evalúa si diferentes grupos demográficos reciben resultados estadísticamente similares del sistema de IA, sin considerar las características individuales específicas.
Impacto Desproporcionado
Efecto negativo o positivo desigual de un algoritmo sobre diferentes grupos demográficos, medido por la brecha estadística entre las tasas de resultados para cada grupo.
Justicia Distributiva
Concepto filosófico aplicado a la IA que garantiza una distribución equitativa de recursos, oportunidades o beneficios generados por los sistemas algorítmicos entre todos los grupos afectados.
Equidad Procesal
Principio que asegura que los procesos de toma de decisiones algorítmicas son transparentes, coherentes y permiten recursos, independientemente de los resultados producidos.
Equidad de Predicción
Criterio que garantiza que la proporción de predicciones correctas es la misma para todos los grupos, asegurando una fiabilidad equitativa de las predicciones a través de diferentes poblaciones.
Privilegio Algorítmico
Ventaja sistemática otorgada por un algoritmo a ciertos grupos o individuos, resultante de sesgos implícitos en el diseño o entrenamiento del modelo.
Trato Justo
Principio fundamental que exige que los sistemas de IA traten a todas las personas de manera imparcial y coherente, sin discriminación basada en características protegidas o sensibles.
Equidad por Concienciación
Metodología que integra explícitamente el conocimiento de sesgos potenciales y características protegidas en el diseño y evaluación de los modelos para garantizar resultados equitativos.
Discriminación Algorítmica
Tratamiento diferenciado e injusto de ciertos grupos por un sistema de IA, resultante de decisiones algorítmicas que crean o perpetúan desigualdades sistémicas.
Equidad Longitudinal
Principio que garantiza que la equidad de un sistema de IA se mantenga en el tiempo, evitando la aparición de nuevos sesgos o la amplificación de las desigualdades existentes con la evolución del modelo.