Glossário IA
O dicionário completo da Inteligência Artificial
Defesa Estocástica
Abordagem defensiva que utiliza a aleatoriedade no processo de classificação para tornar os ataques adversariais imprevisíveis e menos eficazes, introduzindo estocasticidade na inferência.
Robustez Probabilística
Medida de robustez que avalia a probabilidade de um modelo manter previsões corretas diante de perturbações, em vez de garantir proteção absoluta contra todos os ataques.
Defesa Gaussiana
Técnica específica de randomização que utiliza ruído gaussiano para proteger modelos, onde a distribuição normal é aplicada tanto às entradas quanto aos pesos da rede neural.
Defesa por Dropout
Uso estratégico do dropout durante a inferência (normalmente desativado) para introduzir aleatoriedade nas ativações da rede, tornando os ataques baseados em gradiente menos confiáveis.
Transformação Aleatória
Aplicação de transformações aleatórias (rotação, translação, escala) às entradas antes da classificação, criando uma variabilidade que perturba a construção de exemplos adversariais direcionados.
Defesa Baseada em Entropia
Método defensivo que utiliza a entropia da distribuição de probabilidade de saída como métrica para detectar e rejeitar entradas suspeitas, combinada com randomização para aumentar a incerteza.
Defesa Monte Carlo
Abordagem defensiva que realiza múltiplas inferências com diferentes realizações aleatórias e agrega os resultados, utilizando métodos Monte Carlo para estimar a robustez do modelo.
Defesa Bayesiana
Framework de defesa que trata os pesos da rede como distribuições probabilísticas em vez de pontos fixos, integrando naturalmente a incerteza e a randomização no processo de classificação.
Mascaramento de Gradiente Estocástico
Técnica que obscurece intencionalmente os gradientes por randomização para impedir que atacantes usem eficazmente métodos baseados em gradiente para gerar exemplos adversariais.
Ensemble Randomizado
Construção de ensembles de modelos onde cada membro utiliza uma randomização diferente, criando uma defesa coletiva mais robusta através da diversidade estocástica das previsões.
Randomização Adaptativa
Estratégia de defesa onde o nível e o tipo de randomização são adaptados dinamicamente com base nas características da entrada ou nas ameaças detetadas para otimizar o compromisso robustez-precisão.
Certificação Probabilística
Garantia matemática que fornece um limite para a probabilidade de classificação correta sob perturbação, em vez de uma certeza absoluta, adaptada a métodos de defesa randomizados.
Defesa Consciente de Ruído
Abordagem defensiva concebida levando em conta explicitamente a natureza e as propriedades estatísticas do ruído adicionado, otimizando a randomização para proteção máxima enquanto preserva o desempenho.
Inferência Estocástica
Processo de inferência que integra elementos aleatórios em várias etapas (entrada, ativações, pesos), transformando a classificação determinística num processo probabilístico resistente a ataques.
Pré-processamento Randomizado
Pipeline de pré-processamento de dados que incorpora etapas aleatórias (normalização variável, aumento estocástico) para criar uma primeira linha de defesa contra ataques adversariais.
Robustez Distribucional
Propriedade de um modelo que mantém desempenho estável face a variações na distribuição dos dados de entrada, obtida através da randomização para simular e proteger contra essas variações.