Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Attaque Adversariale Audio
Technique consistant à modifier délibérément un signal audio pour induire en erreur un modèle de reconnaissance vocale tout en maintenant l'imperceptibilité humaine. Ces attaques exploitent les vulnérabilités des réseaux de neurones par l'ajout de perturbations calculées mathématiquement.
Perturbation Imperceptible Audio
Modification subtile du signal audio conçue pour être indétectable par l'oreille humaine mais suffisante pour changer la classification d'un modèle IA. Ces perturbations sont optimisées pour maximiser l'erreur du modèle tout en minimisant la distorsion perceptuelle.
Commande Vocale Cachée
Attaque où des instructions vocales malveillantes sont dissimulées dans un audio apparemment anodin pour déclencher des actions non désirées sur les assistants vocaux. Cette technique exploite les différences entre la perception humaine et l'analyse algorithmique des systèmes de reconnaissance.
Dolphin Attack
Attaque utilisant des commandes vocales modulées à des ultrasons inaudibles pour l'homme mais détectables par les microphones des assistants vocaux. Cette vulnérabilité permet de contrôler à distance des systèmes sans que les utilisateurs ne s'en aperçoivent.
Adversarial Audio Example
Exemple audio spécifiquement crafted pour tromper un modèle de machine learning en produisant une classification erronée tout en paraissant normal à l'écoute. Ces exemples sont générés par des algorithmes d'optimisation qui maximisent la fonction de perte du modèle cible.
Bruit Adversarial Audio
Signal de bruit mathématiquement optimisé ajouté à un audio propre pour compromettre la performance des modèles de reconnaissance vocale. Contrairement au bruit aléatoire, ce bruit est structuré pour exploiter les points faibles spécifiques du réseau neuronal.
Attaque sur Spectrogramme
Méthode d'attaque qui manipule directement la représentation spectrographique du signal audio plutôt que le signal temporel brut. Cette approche permet des attaques plus ciblées en exploitant la sensibilité des modèles aux patterns fréquentiels spécifiques.
White-box Attack Audio
Attaque où l'adversaire a une connaissance complète de l'architecture du modèle, de ses paramètres et de ses poids. Cette connaissance permet de générer des perturbations optimales avec une haute probabilité de succès en utilisant des méthodes comme FGSM ou PGD.
Black-box Attack Audio
Attaque réalisée sans connaissance de l'architecture interne du modèle cible, en utilisant uniquement les entrées et sorties observables. Ces attaques reposent sur des techniques de transfert ou d'optimisation par requêtes pour trouver des perturbations efficaces.
Défense Adversariale Audio
Ensemble de techniques visant à protéger les modèles de reconnaissance audio contre les attaques adversariales. Ces méthodes incluent l'entraînement adversarial, la purification audio, et la détection d'anomalies dans les entrées sonores.
Robustesse Audio
Capacité d'un modèle de reconnaissance audio à maintenir ses performances face à des perturbations adversariales ou du bruit. La robustesse est mesurée par la résistance du modèle aux attaques tout en préservant sa précision sur les exemples légitimes.
Transferability Audio
Phénomène où une attaque générée contre un modèle audio spécifique reste efficace contre d'autres modèles avec des architectures différentes. Cette propriété est particulièrement exploitée dans les attaques black-box où le modèle cible est inconnu.
Audio Adversarial Training
Technique de régularisation où le modèle est entraîné sur des exemples audio adversariaux en plus des exemples propres. Cette approche améliore la robustesse du modèle en lui apprenant à résister aux perturbations malveillantes pendant l'entraînement.
Universal Audio Perturbation
Perturbation audio unique capable de tromper un modèle sur une large gamme d'entrées différentes. Contrairement aux attaques spécifiques, cette perturbation peut être appliquée à n'importe quel audio pour compromettre le modèle de manière généralisée.
Psychoacoustic Masking
Technique exploitant les limites de la perception humaine pour masquer des perturbations adversariales dans un signal audio. Cette approche utilise les principes de l'audiologie pour rendre les attaques imperceptibles tout en restant efficaces contre les modèles IA.
Phase Attack Audio
Attaque adversariale qui manipule spécifiquement la phase du signal audio tout en préservant l'amplitude perceptible. Cette méthode est particulièrement insidieuse car les humains sont moins sensibles aux modifications de phase que les systèmes de reconnaissance automatique.
Temporal Attack Audio
Attaque qui introduit des perturbations temporelles subtiles comme des décalages microsecondes ou des modifications de durée. Ces manipulations temporelles peuvent radicalement changer la sortie du modèle tout en restant quasi-invisibles à l'écoute humaine.
Frequency Domain Attack
Attaque réalisée dans le domaine fréquentiel en modifiant les coefficients de la transformée de Fourier du signal audio. Cette approche permet des manipulations précises des composantes fréquentielles pour tromper les modèles tout en contrôlant la perceptibilité.
Audio Adversarial Examples Generation
Processus algorithmique de création d'exemples audio malveillants utilisant des méthodes d'optimisation comme la descente de gradient projetée. Ces algorithmes ajustent itérativement le signal audio pour maximiser l'erreur de classification sous contraintes de perceptibilité.
Speech Command Obfuscation
Technique d'attaque qui masque ou modifie des commandes vocales légitimes pour qu'elles soient interprétées différemment par les systèmes IA. Cette méthode peut transformer une commande innocente en instruction malveillante tout en paraissant normale aux oreilles humaines.