Glossário IA
O dicionário completo da Inteligência Artificial
Teste Adversário
Método de avaliação que consiste em submeter um modelo a exemplos especificamente concebidos para induzir erros de previsão, revelando assim as suas vulnerabilidades a ataques direcionados.
Detecção de Desvio de Distribuição
Processo de identificação de mudanças na distribuição dos dados de entrada em comparação com os dados de treinamento, crucial para manter o desempenho do modelo em produção.
Teste de Estresse
Avaliação intensiva dos limites de um modelo, submetendo-o a condições extremas ou incomuns para identificar seus potenciais pontos de falha.
Análise de Perturbação
Estudo sistemático do impacto de pequenas modificações nos dados de entrada nas previsões do modelo, medindo assim a sua sensibilidade às variações.
Métricas de Robustez
Indicadores quantitativos que permitem medir a resistência de um modelo a perturbações, como a taxa de precisão sob ruído ou a variação das previsões.
Validação de Entrada
Processo de verificação dos dados de entrada para garantir que respeitam as restrições esperadas, protegendo o modelo contra entradas maliciosas ou inválidas.
Teste de Limite
Avaliação do comportamento do modelo nas fronteiras do seu espaço de decisão, onde as previsões são mais suscetíveis a mudar sob ligeiras perturbações.
Calibração do Modelo
Ajuste das pontuações de confiança do modelo para que reflitam precisamente a probabilidade real de correção das previsões.
Estabilidade da Importância das Características
Avaliação da consistência da importância das características sob diferentes perturbações de dados, medindo a confiabilidade da interpretabilidade do modelo.
Robustez à Adaptação de Domínio
Capacidade de um modelo de manter seu desempenho quando confrontado com dados provenientes de domínios ligeiramente diferentes daqueles de treinamento.
Teste de Resiliência a Outliers
Avaliação da capacidade do modelo de lidar com valores atípicos (outliers) sem degradação significativa de seu desempenho preditivo.
Robustez Temporal
Medida da estabilidade das previsões do modelo diante das evoluções temporais dos padrões de dados, particularmente crucial para séries temporais.
Teste de Ataque Baseado em Gradiente
Simulação de ataques utilizando os gradientes do modelo para criar perturbações ótimas que maximizam os erros de previsão.