Glosario IA
El diccionario completo de la Inteligencia Artificial
Pruebas Adversariales
Método de evaluación que consiste en someter un modelo a ejemplos diseñados específicamente para inducir errores de predicción, revelando así sus vulnerabilidades ante ataques dirigidos.
Detección de Cambio en la Distribución
Proceso de identificación de cambios en la distribución de los datos de entrada en comparación con los datos de entrenamiento, crucial para mantener el rendimiento del modelo en producción.
Pruebas de Estrés
Evaluación intensiva de los límites de un modelo sometiéndolo a condiciones extremas o inusuales para identificar sus posibles puntos de fallo.
Análisis de Perturbación
Estudio sistemático del impacto de pequeñas modificaciones en los datos de entrada sobre las predicciones del modelo, midiendo así su sensibilidad a las variaciones.
Métricas de Robustez
Indicadores cuantitativos que permiten medir la resistencia de un modelo a las perturbaciones, como la tasa de precisión bajo ruido o la variación en las predicciones.
Validación de Entrada
Proceso de verificación de los datos de entrada para asegurarse de que cumplen con las restricciones esperadas, protegiendo al modelo contra entradas maliciosas o inválidas.
Pruebas de Frontera
Evaluación del comportamiento del modelo en los límites de su espacio de decisión, donde las predicciones son más propensas a cambiar bajo ligeras perturbaciones.
Calibración del Modelo
Ajuste de las puntuaciones de confianza del modelo para que reflejen con precisión la probabilidad real de corrección de las predicciones.
Estabilidad de la Importancia de Características
Evaluación de la coherencia de la importancia de las características bajo diferentes perturbaciones de los datos, midiendo la fiabilidad de la interpretabilidad del modelo.
Robustez de Adaptación al Dominio
Capacidad de un modelo para mantener su rendimiento cuando se enfrenta a datos provenientes de dominios ligeramente diferentes a los del entrenamiento.
Prueba de Resiliencia a Valores Atípicos
Evaluación de la capacidad del modelo para manejar valores atípicos sin una degradación significativa de su rendimiento predictivo.
Robustez Temporal
Medida de la estabilidad de las predicciones del modelo frente a la evolución temporal de los patrones de datos, particularmente crucial para las series temporales.
Prueba de Ataques Basados en Gradientes
Simulación de ataques que utilizan los gradientes del modelo para crear perturbaciones óptimas que maximizan los errores de predicción.