Glosario IA
El diccionario completo de la Inteligencia Artificial
XAI (IA Explicable)
Conjunto de técnicas y métodos que tienen como objetivo hacer comprensibles las decisiones de los sistemas de inteligencia artificial para los humanos, esencial para la confianza y la aceptabilidad.
Interpretabilidad
Capacidad de un modelo para presentar sus decisiones de manera comprensible para los humanos, distinguida de la transparencia que se refiere a la comprensión del mecanismo interno.
Explicaciones post-hoc
Métodos de explicación aplicados después del entrenamiento del modelo sin modificar su arquitectura, permitiendo explicar las predicciones de modelos de caja negra.
SHAP (SHapley Additive exPlanations)
Enfoque teórico basado en la teoría de juegos para atribuir la importancia de cada característica en la predicción de un modelo de manera aditiva y coherente.
LIME (Local Interpretable Model-agnostic Explanations)
Técnica de explicación local que aproxima el comportamiento de un modelo complejo mediante un modelo simple e interpretable en el vecindario de una predicción específica.
Factores de influencia
Elementos específicos (ítems, atributos, comportamientos pasados) que han contribuido directamente a la generación de una recomendación particular en un sistema.
Contraexplicaciones
Explicaciones que justifican por qué ciertos ítems no han sido recomendados, ayudando a los usuarios a comprender los límites y criterios de exclusión del sistema.
Justificaciones causales
Explicaciones basadas en relaciones de causa y efecto entre las acciones del usuario y las recomendaciones generadas, en lugar de simples correlaciones.
Enfoques basados en el conocimiento
Métodos de recomendación que utilizan ontologías o grafos de conocimiento para generar explicaciones semánticamente ricas y contextualmente relevantes.
Visualizaciones de explicaciones
Representaciones gráficas interactivas que transforman las justificaciones algorítmicas en elementos visuales intuitivos para facilitar la comprensión del usuario.
Personalización de explicaciones
Adaptación del contenido, estilo y nivel de detalle de las explicaciones según el perfil, preferencias y experiencia de cada usuario.
Evaluaciones cualitativas de explicaciones
Métodos de evaluación basados en estudios de usuarios, entrevistas y análisis de contenido para medir la pertinencia y utilidad percibida de las explicaciones.
Retroalimentación explicativa
Mecanismo que permite a los usuarios reaccionar a las explicaciones proporcionadas, refinando así las futuras recomendaciones y la calidad de las justificaciones.
Complejidad explicativa
Medida de la dificultad cognitiva requerida para comprender una explicación, evaluando el equilibrio entre precisión técnica y accesibilidad para el usuario.
Transparencia algorítmica
Principio que consiste en revelar los mecanismos, datos y lógicas subyacentes de un sistema de recomendación para garantizar su trazabilidad y auditabilidad.
Confianza algorítmica
Nivel de credibilidad y fiabilidad percibido por los usuarios hacia un sistema, influenciado directamente por la calidad y pertinencia de las explicaciones proporcionadas.
Explicaciones intrínsecas
Modelos diseñados desde su concepción para ser interpretables, integrando nativamente capacidades de explicación a diferencia de los enfoques post-hoc.
Reglas de asociación explicativas
Conjuntos de reglas lógicas (SI-ENTONCES) que justifican las recomendaciones mostrando las relaciones descubiertas entre los comportamientos y los ítems.
Sesgo explicativo
Distorsiones sistemáticas en las explicaciones generadas que pueden sobrerrepresentar ciertos factores o minimizar otros, afectando la percepción equitativa del sistema.