Glossário IA
O dicionário completo da Inteligência Artificial
Ataque Adversarial
Técnica que consiste em introduzir perturbações imperceptíveis nos dados de entrada para enganar um modelo de aprendizado de máquina. Esses ataques exploram as vulnerabilidades das redes neurais profundas manipulando sutilmente os pixels de uma imagem.
Ataque por Patch Adversarial
Técnica de ataque onde um patch físico ou digital é aplicado a uma imagem para enganar modelos de classificação ou detecção. Ao contrário das perturbações de pixels, este método modifica uma região específica da imagem de forma visível, mas interpretada incorretamente pelo modelo.
Ataque Universal
Tipo de ataque onde uma única perturbação é capaz de enganar um modelo na maioria das imagens de entrada. Esses ataques são particularmente perigosos porque não exigem o recálculo da perturbação para cada nova imagem.
Ataque na Detecção de Objetos
Ataque especificamente projetado para enganar modelos de detecção de objetos manipulando as bounding boxes ou os scores de confiança. Esses ataques podem fazer com que objetos detectados desapareçam ou que objetos falsos apareçam.
Gradiente Mascarado
Fenômeno onde um modelo de defesa suaviza artificialmente sua superfície de decisão, tornando os gradientes inutilizáveis para ataques. Embora pareça protetor, essa técnica é frequentemente contornável e pode criar uma falsa sensação de segurança.
Perturbação Lp
Medida da magnitude das perturbações adversariais usando diferentes normas matemáticas (L0, L2, Linfini). Cada norma impõe diferentes restrições sobre a natureza e a distribuição das modificações permitidas na imagem.
Ataque na Segmentação Semântica
Ataque que visa modelos de segmentação que modificam a classificação pixel a pixel das imagens. Esses ataques podem alterar a percepção dos contornos e das regiões semânticas, afetando aplicações como condução autônoma ou imagens médicas.
Transferibilidade de Ataque
Fenômeno onde um ataque gerado contra um modelo específico permanece eficaz contra outros modelos, mesmo com arquiteturas diferentes. Esta propriedade é crucial para ataques de caixa preta e revela vulnerabilidades comuns entre modelos.