Glossário IA
O dicionário completo da Inteligência Artificial
Análise Contrafactual
Método de interpretabilidade que identifica as modificações mínimas a serem feitas nas características de uma instância para que a previsão do modelo mude para uma saída desejada, criando cenários hipotéticos 'e se'.
Explicação por Oposição
Técnica que explica uma previsão contrastando-a com outra previsão plausível, destacando as características que justificam por que o modelo escolheu uma opção em vez de outra.
Regras de Âncora (Anchors)
Explicações locais na forma de regras condicionais que 'ancoram' a previsão de um modelo em torno de uma instância específica, garantindo que a previsão permaneça inalterada em uma vizinhança definida por essas regras.
Explicação Contrastiva por Par
Abordagem que gera explicações comparando diretamente duas instâncias distintas, frequentemente uma previsão correta e uma incorreta, para isolar os fatores decisivos da decisão do modelo.
Cenários Contrafactuais Múltiplos
Geração de um conjunto de explicações contrafactuais variadas para uma única previsão, oferecendo uma visão mais rica dos caminhos alternativos e das diferentes maneiras de alcançar um resultado diferente.
Espaço Contrafactual Acionável
Conjunto de modificações possíveis nas características de uma instância que são ao mesmo tempo realizáveis no mundo real e relevantes para o usuário, restringindo a geração de explicações contrafactuais a cenários plausíveis.
Diagnóstico por Diferença
Método que analisa os desvios de comportamento de um modelo entre dois contextos ou conjuntos de dados (ex: antes e depois de um drift) para compreender as mudanças em sua lógica de decisão.
Explicação por Caso Prototípico
Técnica que explica uma previsão contrastando-a com o caso mais representativo (protótipo) da classe predita, destacando as características que aproximam ou afastam a instância desse protótipo.
Análise de Sensibilidade Comparativa
Avaliação que mede como a previsão de um modelo para uma dada instância reage a variações nas suas características, comparando essa reação com a de outras instâncias ou com um caso de referência.
Explicação por Substituição de Modelo
Abordagem que interpreta uma decisão de um modelo complexo (caixa preta) comparando-a com a decisão de um modelo mais simples e interpretável (ex: árvore de decisão) treinado na mesma vizinhança local.
Mapa de Desvio em Relação à Norma
Visualização que destaca as características de uma instância que se desviam significativamente da distribuição 'normal' ou esperada dos dados, explicando assim porque a sua previsão é atípica.
Raciocínio por Caso Contrastivo
Metodologia de explicação inspirada no raciocínio jurídico, onde uma decisão é justificada comparando-a com casos passados semelhantes, mas com resultados diferentes, para isolar o elemento 'fator decisivo'.
Explicação por Critério de Exclusão
Técnica que explica por que um modelo não escolheu uma certa classe, identificando as características que ativamente levaram à exclusão dessa opção no processo de decisão.
Análise de Fronteira de Decisão Contrastiva
Exame das características que definem a fronteira entre duas classes previstas pelo modelo, focando nas instâncias próximas a esse limite para entender os fatores de mudança.
Explicação por Inversão de Previsão
Processo que consiste em inverter a previsão de um modelo (por exemplo, passar de 'rejeitado' para 'aceito') e analisar as mudanças de características necessárias, fornecendo uma explicação sobre o que falta à instância original.
Comparação de Perfis de Atribuição
Método que compara os perfis de importância das características (gerados por SHAP, LIME, etc.) entre duas instâncias ou grupos de instâncias para revelar as diferenças sutis na lógica do modelo.
Explicação por Cenário Adverso
Geração de um cenário de 'pior caso' que, embora próximo da instância original, leva a uma previsão muito desfavorável, ajudando a compreender a robustez e os pontos fracos da decisão do modelo.