Glosario IA
El diccionario completo de la Inteligencia Artificial
Interfaz de explicación interactiva
Sistema gráfico que permite a los usuarios navegar y manipular dinámicamente las explicaciones de las predicciones de un modelo de IA. Facilita la exploración personalizada de las decisiones algorítmicas a través de visualizaciones adaptativas.
Panel de interpretabilidad
Cuadro de mando integrado que presenta de forma consolidada las métricas de interpretabilidad global y local de un modelo de machine learning. Combina gráficos, filtros y controles interactivos para un análisis multidimensional de los comportamientos algorítmicos.
Visualización SHAP interactiva
Interfaz dinámica que permite la exploración de los valores SHAP (SHapley Additive exPlanations) para comprender el impacto de cada característica en las predicciones. Ofrece manipulaciones en tiempo real para analizar las contribuciones de las variables desde diferentes perspectivas.
Herramienta de análisis 'What-if'
Interfaz interactiva que permite a los usuarios modificar los valores de entrada y observar instantáneamente el impacto en las predicciones del modelo. Facilita la exploración de escenarios hipotéticos y la comprensión de las relaciones de causalidad en las decisiones algorítmicas.
Navegador de contraejemplos
Herramienta de exploración visual que permite identificar y analizar las instancias en las que el modelo se equivoca o produce resultados inesperados. Ayuda a comprender los límites del modelo e identificar patrones de datos problemáticos.
Interfaz LIME Explorer
Sistema interactivo para la exploración de las explicaciones LIME (Local Interpretable Model-agnostic Explanations) a nivel individual de las predicciones. Permite visualizar cómo el modelo interpreta localmente cada decisión y ajustar los parámetros de explicación.
Panel de equidad algorítmica
Interfaz especializada que monitorea y visualiza los sesgos potenciales en las predicciones del modelo según diferentes grupos demográficos. Ofrece herramientas de análisis comparativo y alertas sobre disparidades de tratamiento detectadas.
Sistema de consulta de modelo
Interfaz conversacional o basada en consultas que permite interrogar directamente al modelo sobre sus decisiones y lógicas internas. Traduce las preguntas en lenguaje natural en análisis técnicos comprensibles sobre el comportamiento del modelo.
Interfaz de depuración de modelos
Herramienta interactiva avanzada que permite a los desarrolladores rastrear y analizar las decisiones erróneas o sorprendentes del modelo. Combina la visualización de datos intermedios y el análisis de puntos de inflexión en el proceso de decisión.
Visualizador de rutas de decisión
Interfaz gráfica que muestra el recorrido completo de un dato a través de las capas o etapas del modelo hasta la predicción final. Permite identificar los nodos críticos y las transformaciones sucesivas que influyen en la decisión.
Tabla de comparación de modelos
Interfaz interactiva que compara simultáneamente las explicaciones y el rendimiento de varios modelos sobre los mismos datos. Facilita la evaluación comparativa de la interpretabilidad y los comportamientos de decisión entre algoritmos.
Analizador de sensibilidad interactivo
Herramienta que permite manipular visualmente el impacto de cada variable en las predicciones del modelo a través de controles deslizantes y gráficos dinámicos. Revela los umbrales críticos y las no linealidades en las relaciones entrada-salida.
Explorador de instancias similares
Interfaz que identifica y visualiza los casos de entrenamiento más influyentes para una predicción dada. Ayuda a comprender en qué experiencias pasadas el modelo basa sus decisiones actuales.
Interfaz de anclajes interactivos
Sistema de visualización de explicaciones por anclajes (Anchors) que muestra las condiciones suficientes para que una predicción permanezca estable. Permite explorar interactivamente las reglas 'si-entonces' que garantizan la robustez de las decisiones.
Panel de control de explicaciones locales
Interfaz especializada en el análisis detallado de las decisiones individuales del modelo con herramientas de zoom y filtrado. Combina múltiples visualizaciones (importancia de características, contraejemplos, similitudes) para una comprensión local completa.