Glossário IA
O dicionário completo da Inteligência Artificial
Ataque Adversário de Áudio
Técnica que consiste em modificar deliberadamente um sinal de áudio para enganar um modelo de reconhecimento de fala, mantendo a imperceptibilidade humana. Esses ataques exploram as vulnerabilidades das redes neurais pela adição de perturbações calculadas matematicamente.
Perturbação Imperceptível de Áudio
Modificação sutil do sinal de áudio projetada para ser indetectável pelo ouvido humano, mas suficiente para alterar a classificação de um modelo de IA. Essas perturbações são otimizadas para maximizar o erro do modelo, minimizando a distorção perceptual.
Comando de Voz Oculto
Ataque onde instruções de voz maliciosas são disfarçadas em um áudio aparentemente inofensivo para acionar ações indesejadas em assistentes de voz. Esta técnica explora as diferenças entre a percepção humana e a análise algorítmica dos sistemas de reconhecimento.
Ataque Dolphin
Ataque que utiliza comandos de voz modulados em ultrassons inaudíveis para humanos, mas detectáveis pelos microfones de assistentes de voz. Esta vulnerabilidade permite controlar remotamente sistemas sem que os usuários percebam.
Exemplo Adversário de Áudio
Exemplo de áudio especificamente elaborado para enganar um modelo de aprendizado de máquina, produzindo uma classificação errônea enquanto parece normal ao ser ouvido. Esses exemplos são gerados por algoritmos de otimização que maximizam a função de perda do modelo alvo.
Ruído Adversário de Áudio
Sinal de ruído matematicamente otimizado adicionado a um áudio limpo para comprometer o desempenho dos modelos de reconhecimento de fala. Ao contrário do ruído aleatório, este ruído é estruturado para explorar os pontos fracos específicos da rede neural.
Ataque em Espectrograma
Método de ataque que manipula diretamente a representação espectrográfica do sinal de áudio, em vez do sinal temporal bruto. Essa abordagem permite ataques mais direcionados, explorando a sensibilidade dos modelos a padrões de frequência específicos.
Ataque White-box de Áudio
Ataque onde o adversário tem conhecimento completo da arquitetura do modelo, de seus parâmetros e de seus pesos. Esse conhecimento permite gerar perturbações ótimas com alta probabilidade de sucesso, utilizando métodos como FGSM ou PGD.
Ataque Black-box de Áudio
Ataque realizado sem conhecimento da arquitetura interna do modelo alvo, utilizando apenas as entradas e saídas observáveis. Esses ataques baseiam-se em técnicas de transferência ou otimização por consultas para encontrar perturbações eficazes.
Defesa Adversarial de Áudio
Conjunto de técnicas que visam proteger os modelos de reconhecimento de áudio contra ataques adversariais. Esses métodos incluem o treinamento adversarial, a purificação de áudio e a detecção de anomalias nas entradas sonoras.
Robustez de Áudio
Capacidade de um modelo de reconhecimento de áudio de manter seu desempenho diante de perturbações adversariais ou ruído. A robustez é medida pela resistência do modelo a ataques, mantendo sua precisão em exemplos legítimos.
Transferibilidade de Áudio
Fenômeno em que um ataque gerado contra um modelo de áudio específico permanece eficaz contra outros modelos com arquiteturas diferentes. Essa propriedade é particularmente explorada em ataques black-box onde o modelo alvo é desconhecido.
Treinamento Adversarial de Áudio
Técnica de regularização onde o modelo é treinado em exemplos de áudio adversariais, além dos exemplos limpos. Essa abordagem melhora a robustez do modelo, ensinando-o a resistir a perturbações maliciosas durante o treinamento.
Perturbação Universal de Áudio
Perturbação de áudio única capaz de enganar um modelo em uma ampla gama de entradas diferentes. Ao contrário dos ataques específicos, essa perturbação pode ser aplicada a qualquer áudio para comprometer o modelo de forma generalizada.
Mascaramento Psicoacústico
Técnica que explora os limites da percepção humana para mascarar perturbações adversariais em um sinal de áudio. Essa abordagem utiliza os princípios da audiologia para tornar os ataques imperceptíveis, mantendo-os eficazes contra modelos de IA.
Ataque de Fase de Áudio
Ataque adversarial que manipula especificamente a fase do sinal de áudio, preservando a amplitude perceptível. Este método é particularmente insidioso porque os humanos são menos sensíveis a modificações de fase do que os sistemas de reconhecimento automático.
Ataque de Áudio Temporal
Ataque que introduz perturbações temporais sutis, como desvios de microssegundos ou modificações de duração. Essas manipulações temporais podem alterar radicalmente a saída do modelo, permanecendo quase invisíveis à audição humana.
Ataque no Domínio da Frequência
Ataque realizado no domínio da frequência, modificando os coeficientes da transformada de Fourier do sinal de áudio. Essa abordagem permite manipulações precisas dos componentes de frequência para enganar os modelos, controlando a perceptibilidade.
Geração de Exemplos Adversariais de Áudio
Processo algorítmico de criação de exemplos de áudio maliciosos usando métodos de otimização como a descida de gradiente projetada. Esses algoritmos ajustam iterativamente o sinal de áudio para maximizar o erro de classificação sob restrições de perceptibilidade.
Ofuscação de Comando de Voz
Técnica de ataque que mascara ou modifica comandos de voz legítimos para que sejam interpretados de forma diferente pelos sistemas de IA. Este método pode transformar um comando inocente em uma instrução maliciosa, parecendo normal aos ouvidos humanos.