Glossário IA
O dicionário completo da Inteligência Artificial
Contra-exemplo (Counterfactual)
Instância de dados mínima e modificada em relação a um caso original, que altera a previsão do modelo para uma saída desejada, servindo para explicar a decisão de fronteira do modelo.
Explicação Contrafactual (Counterfactual Explanation)
Método de interpretabilidade que explica uma previsão apresentando um cenário hipotético (contra-exemplo) onde a decisão do modelo teria sido diferente, clarificando assim os critérios de decisão.
Validade Contrafactual (Counterfactual Validity)
Critério que garante que um contra-exemplo gerado produz a previsão alternativa esperada pelo modelo, assegurando a fiabilidade e a relevância da explicação fornecida.
Proximidade Contrafactual (Counterfactual Proximity)
Medida da distância entre a instância original e o contra-exemplo, frequentemente quantificada por uma norma (ex: L1, L2), visando garantir que a explicação seja plausível e facilmente interpretável.
Esparsidade Contrafactual (Counterfactual Sparsity)
Princípio segundo o qual um contra-exemplo deve modificar o menor número possível de características da instância original para maximizar a clareza e a acionabilidade da explicação.
Plausibilidade Contrafactual (Counterfactual Plausibility)
Avaliação da credibilidade de um contra-exemplo no mundo real, assegurando que as modificações sugeridas são realizáveis e não correspondem a uma instância aberrante ou impossível.
Diversidade Contrafactual (Counterfactual Diversity)
Objetivo de gerar um conjunto de contra-exemplos que não são redundantes, oferecendo vários caminhos alternativos distintos para alcançar uma previsão diferente e enriquecendo assim a compreensão do modelo.
Custo Contrafactual (Counterfactual Cost)
Função que pondera as modificações de características num contra-exemplo, refletindo a dificuldade ou o custo (monetário, temporal, etc.) de efetuar essas mudanças na realidade.
Causalidade Contrafactual (Causal Counterfactuals)
Abordagem avançada onde contra-exemplos são gerados respeitando as relações de causalidade entre as variáveis, garantindo que os cenários propostos não violem as restrições do mundo real.
Robustez Contrafactual (Counterfactual Robustness)
Capacidade de um contra-exemplo de manter sua previsão alternativa diante de pequenas variações ou ruído, indicando a estabilidade da fronteira de decisão do modelo nessa região.
Geração de Contra-exemplos Adversariais (Adversarial Counterfactual Generation)
Utilização de técnicas de aprendizado adversarial para criar contra-exemplos, frequentemente com o objetivo de segurança ou auditoria, a fim de testar vulnerabilidades e pontos fracos de um modelo.
Espaço Latente Contrafactual (Counterfactual Latent Space)
Método que busca contra-exemplos em um espaço de representação de menor dimensão (espaço latente) para melhorar a eficiência computacional e a coerência das instâncias geradas.
Métodos de Otimização Contrafactual (Counterfactual Optimization Methods)
Conjunto de algoritmos (ex: programação por restrições, descida de gradiente) utilizados para resolver o problema de busca do contra-exemplo ótimo, minimizando uma função de perda que combina proximidade e validade.
Explicações Contrafactuais Multi-classe (Multi-class Counterfactual Explanations)
Extensão dos contra-exemplos para problemas de classificação com mais de duas classes, onde são geradas instâncias para mudar para qualquer outra classe alvo, e não apenas a classe oposta.