Glosario IA
El diccionario completo de la Inteligencia Artificial
Justicia Procesal
Principio ético que evalúa la equidad de los procesos de toma de decisiones algorítmicos independientemente de sus resultados finales. Se centra en la transparencia, la coherencia y la imparcialidad de los métodos utilizados por los sistemas de IA.
Explicabilidad de las Decisiones
Capacidad de un sistema de IA para proporcionar interpretaciones claras y justificables de sus decisiones individuales. La explicabilidad permite a los usuarios comprender los factores que influyeron en una decisión algorítmica específica.
Igualdad de Oportunidades
Principio de equidad algorítmica que garantiza que las tasas de verdaderos positivos sean iguales entre diferentes grupos demográficos. La igualdad de oportunidades asegura que los individuos calificados tengan la misma probabilidad de ser seleccionados independientemente de su grupo.
Igualdad de Oportunidades Extendida
Extensión de la igualdad de oportunidades que exige que las tasas de falsos positivos y falsos negativos sean iguales entre grupos. Esta métrica más estricta busca eliminar todas las formas de discriminación en los errores algorítmicos.
Responsabilidad Algorítmica
Mecanismo que establece la responsabilidad de las decisiones algorítmicas ante entidades identificables y responsables. La responsabilidad incluye la documentación, la trazabilidad y la posibilidad de recurso contra las decisiones automatizadas.
Equidad de Grupo
Enfoque de equidad algorítmica que evalúa el rendimiento y los impactos del sistema a nivel de poblaciones demográficas enteras. Se opone a la equidad individual que se centra en casos específicos.
Calibración del Modelo
Proceso de ajuste de las puntuaciones de probabilidad de un modelo para que reflejen fielmente las frecuencias reales de ocurrencia. Una calibración correcta es esencial para garantizar decisiones justas e interpretables.
Consistencia de las Decisiones
Principio de justicia procesal que exige que casos similares produzcan decisiones coherentes en el tiempo y entre diferentes evaluadores algorítmicos. La consistencia refuerza la previsibilidad y legitimidad del sistema.
Imparcialidad Contextual
Adaptación de los criterios de equidad algorítmica según los contextos específicos de aplicación y las normas sociales pertinentes. La imparcialidad contextual reconoce que las definiciones de equidad varían según los dominios de uso.
Ética Procedimental
Marco normativo que evalúa la moralidad de los procesos de desarrollo y despliegue de los sistemas de IA. Examina la participación de las partes interesadas, la gobernanza y los mecanismos de supervisión a lo largo del ciclo de vida algorítmico.