Thuật ngữ AI
Từ điển đầy đủ về Trí tuệ nhân tạo
Stochastic Defense
Defensive approach using randomness in the classification process to make adversarial attacks unpredictable and less effective by introducing stochasticity into inference.
Probabilistic Robustness
Robustness measure that evaluates the probability that a model maintains correct predictions in the face of perturbations, rather than guaranteeing absolute protection against all attacks.
Gaussian Defense
Specific randomization technique using Gaussian noise to protect models, where the normal distribution is applied to either inputs or neural network weights.
Dropout Defense
Strategic use of dropout during inference (normally disabled) to introduce randomness into network activations, making gradient-based attacks less reliable.
Random Transformation
Application of random transformations (rotation, translation, scaling) to inputs before classification, creating variability that disrupts the construction of targeted adversarial examples.
Entropy-based Defense
Defensive method using the entropy of the output probability distribution as a metric to detect and reject suspicious inputs, combined with randomization to increase uncertainty.
Monte Carlo Defense
Defensive approach performing multiple inferences with different random realizations and aggregating results, using Monte Carlo methods to estimate model robustness.
Bayesian Defense
Defense framework treating network weights as probabilistic distributions rather than fixed points, naturally integrating uncertainty and randomization into the classification process.
Stochastic Gradient Masking
Technique obscurcissant intentionnellement les gradients par randomisation pour empêcher les attaquants d'utiliser efficacement les méthodes basées sur gradient pour générer des exemples adversariaux.
Randomized Ensembling
Construction d'ensembles de modèles où chaque membre utilise une randomisation différente, créant une défense collective plus robuste through la diversité stochastique des prédictions.
Adaptive Randomization
Stratégie de défense où le niveau et le type de randomisation sont adaptés dynamiquement basé sur les caractéristiques de l'entrée ou des menaces détectées pour optimiser le compromis robustesse-précision.
Probabilistic Certification
Garantie mathématique fournissant une borne sur la probabilité de classification correcte sous perturbation, plutôt qu'une certitude absolue, adaptée aux méthodes de défense randomisées.
Noise-aware Defense
Approche défensive conçue en tenant compte explicitement de la nature et les propriétés statistiques du bruit ajouté, optimisant la randomisation pour une protection maximale tout en préservant la performance.
Stochastic Inference
Processus d'inférence intégrant des éléments aléatoires à diverses étapes (entrée, activations, poids), transformant la classification déterministe en un processus probabiliste résistant aux attaques.
Randomized Preprocessing
Pipeline de prétraitement des données incorporant des étapes aléatoires (normalisation variable, augmentation stochastique) pour créer une première ligne de défense contre les attaques adversariales.
Distributional Robustness
Propriété d'un modèle maintainant des performances stables face à des variations dans la distribution des données d'entrée, obtenue through la randomisation pour simuler et se protéger contre ces variations.