Słownik AI
Kompletny słownik sztucznej inteligencji
Calibration robuste
Ensemble de techniques visant à maintenir la précision de calibration d'un modèle face aux variations de distribution et aux attaques malveillantes. Ces méthodes garantissent que les scores de confiance restent fiables même dans des conditions opérationnelles dégradées.
Distribution Out-of-Distribution (OOD)
Phénomène où les données de test proviennent d'une distribution différente de celle des données d'entraînement, ce qui compromet généralement la calibration et les performances du modèle. La détection OOD est cruciale pour identifier quand les prédictions d'un modèle ne sont plus fiables.
Attaques adversariales
Manipulations intentionnelles et souvent imperceptibles des données d'entrée visant à induire en erreur le modèle tout en préservant l'apparence normale pour un observateur humain. Ces attaques peuvent sévèrement dégrader la calibration en produisant des prédictions hautement confiantes mais incorrectes.
Label Shift
Changement distributionnel où les proportions des classes varient entre les données d'entraînement et de test, tandis que P(x|y) reste stable. Ce type de shift nécessite des techniques de calibration spécifiques pour ajuster les probabilités.
Test-Time Calibration
Méthodes adaptant la calibration du modèle dynamiquement pendant l'inférence en fonction des caractéristiques des données de test. Ces approches permettent de maintenir la calibration face aux shifts distributionnels imprévus.
Reliable Diagram
Variante du diagramme de calibration utilisant des bins à effectif constant plutôt qu'à intervalles de confiance constants. Cette méthode fournit une estimation plus stable de la calibration particulièrement utile pour les petits ensembles de données.