Glosario IA
El diccionario completo de la Inteligencia Artificial
Métodos agnósticos al modelo
Técnicas de interpretación que pueden aplicarse a cualquier tipo de modelo de IA sin necesidad de conocimiento de su arquitectura interna.
Métodos específicos del modelo
Enfoques de interpretación diseñados para tipos particulares de modelos, explotando su estructura interna para proporcionar explicaciones más precisas.
Perturbación de entrada
Técnica que consiste en modificar ligeramente los datos de entrada para observar el impacto en las predicciones del modelo e identificar las características más influyentes.
Atribución de características
Proceso de asignación de puntuaciones de importancia a cada variable de entrada para cuantificar su contribución a una predicción específica del modelo.
Gráficos de dependencia parcial
Visualización que muestra el efecto marginal de una o dos características en la predicción del modelo, marginalizando el efecto de las otras variables.
Mapas de saliencia
Representaciones visuales que destacan las regiones o píxeles más influyentes en los datos de entrada (especialmente imágenes) para una predicción dada.
Reglas de extracción
Técnica que extrae reglas lógicas comprensibles a partir de modelos complejos, permitiendo aproximar su comportamiento con condiciones simples.
Importancia global de las características
Medida agregada de la influencia de cada variable en el conjunto de predicciones del modelo, permitiendo identificar los factores determinantes globales.
Análisis de caminos críticos
Identificación de secuencias de decisiones o características que conducen a predicciones específicas, particularmente útil en las redes neuronales profundas.
Modelos proxy
Modelos simples e interpretables entrenados para imitar el comportamiento de un modelo complejo, sirviendo como aproximación para explicar sus decisiones.