Glosario IA
El diccionario completo de la Inteligencia Artificial
Auditoría Ética Pre-implementación
Examen exhaustivo de los componentes algorítmicos, datos y procesos de toma de decisiones para detectar sesgos y discriminaciones antes de la puesta en producción.
Matriz de Impacto Ético
Herramienta de evaluación estructurada que permite cuantificar y visualizar las consecuencias éticas potenciales según múltiples dimensiones y partes interesadas.
Puntuación de Riesgo de Sesgo
Indicador cuantitativo que mide la probabilidad y la severidad de las discriminaciones algorítmicas basadas en características protegidas.
Prueba de Equidad Procesal
Evaluación que verifica si los procesos de toma de decisiones de la IA tratan equitativamente a todos los individos independientemente de sus características personales.
Análisis de Sensibilidad Ética
Método de examen de las variaciones de los resultados éticos del sistema ante cambios en los datos de entrada o parámetros del modelo.
Mapeo de las Partes Interesadas
Proceso de identificación y análisis de todos los actores afectados por el sistema de IA para evaluar los potenciales impactos diferenciados.
Marco de Impacto Social
Estructura de evaluación holística que mide los efectos colectivos y a largo plazo del despliegue de IA en la cohesión social y las instituciones.
Métrica de Transparencia Algorítmica
Conjunto de indicadores que cuantifican la capacidad de los usuarios y reguladores para comprender e interrogar los mecanismos de toma de decisiones de la IA.
Protocolo de Validación Ética
Serie estandarizada de pruebas y verificaciones que garantizan la conformidad del sistema con los principios éticos establecidos antes del despliegue.
Indicador de Justicia Distributiva
Medida que evalúa la equidad en la distribución de los beneficios y cargas del sistema de IA entre diferentes grupos demográficos.
Evaluación de Robustez Ética
Prueba de la capacidad del sistema para mantener sus garantías éticas frente a intentos de manipulación o condiciones adversas.
Prueba de No Discriminación
Verificación sistemática de la ausencia de tratamiento diferenciado injustificado basado en características protegidas en las decisiones algorítmicas.
Marco de Rendición de Cuentas
Estructura organizacional que define las responsabilidades, mecanismos de control y vías de recurso para las decisiones e impactos de la IA.
Evaluación de Impacto en los Derechos Humanos
Análisis sistemático de los efectos potenciales del sistema de IA en el ejercicio de los derechos fundamentales reconocidos internacionalmente.
Método de Análisis Consecuencialista
Enfoque de evaluación que se concentra en los resultados y consecuencias reales del sistema en lugar de en sus intenciones o principios intrínsecos.
Protocolo de Evaluación de Sesgo Sistémico
Metodología completa para identificar las discriminaciones emergentes de la interacción compleja entre datos, algoritmos y contextos de uso.
Matriz de Vulnerabilidad Algorítmica
Herramienta que mapea las poblaciones y situaciones que presentan un alto riesgo de impacto negativo frente a las decisiones automatizadas del sistema.
Prueba de Equidad Predictiva
Evaluación estadística de la coherencia de las predicciones del modelo entre diferentes grupos para garantizar un rendimiento equitativo.
Marco de Evaluación de Impacto Regulatorio
Estructura de análisis que garantiza el cumplimiento del sistema de IA con los requisitos legales y reglamentarios aplicables en su ámbito de despliegue.