Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Stochastic Defense
Approche défensive utilisant l'aléatoire dans le processus de classification pour rendre les attaques adversariales imprévisibles et moins efficaces en introduisant de la stochasticité dans l'inférence.
Probabilistic Robustness
Mesure de robustesse qui évalue la probabilité qu'un modèle maintienne des prédictions correctes face à des perturbations, plutôt que de garantir une protection absolue contre toutes les attaques.
Gaussian Defense
Technique spécifique de randomisation utilisant du bruit gaussien pour protéger les modèles, où la distribution normale est appliquée soit aux entrées, soit aux poids du réseau neuronal.
Dropout Defense
Utilisation stratégique du dropout pendant l'inférence (normalement désactivé) pour introduire de l'aléatoire dans les activations du réseau, rendant les attaques par gradient moins fiables.
Random Transformation
Application de transformations aléatoires (rotation, translation, scaling) aux entrées avant classification, créant une variabilité qui perturbe la construction d'exemples adversariaux ciblés.
Entropy-based Defense
Méthode défensive utilisant l'entropie de la distribution de probabilité de sortie comme métrique pour détecter et rejeter les entrées suspectes, combinée avec de la randomisation pour augmenter l'incertitude.
Monte Carlo Defense
Approche défensive effectuant multiple inférences avec différentes réalisations aléatoires et agrégeant les résultats, utilisant les méthodes Monte Carlo pour estimer la robustesse du modèle.
Bayesian Defense
Framework de défense traitant les poids du réseau comme des distributions probabilistes plutôt que des points fixes, intégrant naturellement l'incertitude et la randomisation dans le processus de classification.
Stochastic Gradient Masking
Technique obscurcissant intentionnellement les gradients par randomisation pour empêcher les attaquants d'utiliser efficacement les méthodes basées sur gradient pour générer des exemples adversariaux.
Randomized Ensembling
Construction d'ensembles de modèles où chaque membre utilise une randomisation différente, créant une défense collective plus robuste through la diversité stochastique des prédictions.
Adaptive Randomization
Stratégie de défense où le niveau et le type de randomisation sont adaptés dynamiquement basé sur les caractéristiques de l'entrée ou des menaces détectées pour optimiser le compromis robustesse-précision.
Probabilistic Certification
Garantie mathématique fournissant une borne sur la probabilité de classification correcte sous perturbation, plutôt qu'une certitude absolue, adaptée aux méthodes de défense randomisées.
Noise-aware Defense
Approche défensive conçue en tenant compte explicitement de la nature et les propriétés statistiques du bruit ajouté, optimisant la randomisation pour une protection maximale tout en préservant la performance.
Stochastic Inference
Processus d'inférence intégrant des éléments aléatoires à diverses étapes (entrée, activations, poids), transformant la classification déterministe en un processus probabiliste résistant aux attaques.
Randomized Preprocessing
Pipeline de prétraitement des données incorporant des étapes aléatoires (normalisation variable, augmentation stochastique) pour créer une première ligne de défense contre les attaques adversariales.
Distributional Robustness
Propriété d'un modèle maintainant des performances stables face à des variations dans la distribution des données d'entrée, obtenue through la randomisation pour simuler et se protéger contre ces variations.