Glossário IA
O dicionário completo da Inteligência Artificial
Âncoras (Anchors)
Um método de explicação local que fornece regras de decisão simples e suficientes (âncoras) que garantem probabilisticamente a mesma previsão para uma vizinhança da observação, oferecendo uma interpretação mais estável que o LIME.
Valores de Shapley
O conceito teórico fundamental do SHAP, representando a contribuição marginal média de uma característica em todas as possíveis coalizões de características em um modelo, garantindo uma distribuição justa da importância.
Explicação por Surrogado Local
Uma abordagem que treina um modelo simples e interpretável (como uma árvore de decisão ou regressão linear) para aproximar o comportamento de um modelo complexo apenas na vizinhança restrita de uma previsão específica.
Vizinhança da Observação
O espaço de dados definido em torno de uma observação específica, usado por métodos de interpretação local para gerar variações e aproximar o comportamento do modelo nesta região restrita.
Fidelidade Local (Local Fidelity)
Uma métrica que avalia a precisão com que uma explicação local (como um modelo substituto) reproduz as previsões do modelo original na vizinhança da observação explicada.
TreeSHAP
Uma variante do algoritmo SHAP otimizada para modelos baseados em árvores de decisão, capaz de calcular os valores exatos de Shapley de forma muito mais rápida, explorando a estrutura intrínseca desses modelos.
KernelSHAP
Uma implementação do SHAP que utiliza uma função de ponderação (kernel) para estimar os valores de Shapley de forma aproximada, tornando-o aplicável a qualquer modelo de maneira agnóstica, mas com um custo computacional mais elevado.
DeepSHAP
Uma adaptação do SHAP especificamente projetada para modelos de deep learning, que combina os valores de Shapley com técnicas de retropropagação (backpropagation) para calcular eficientemente as atribuições de características.
Explicação Ad-Hoc
Uma explicação local gerada especificamente para uma única instância, sem pretender generalização, ao contrário das explicações globais que procuram descrever o comportamento global do modelo.
Influência da Característica Local
A medida do impacto de uma característica específica na previsão de uma única observação, quantificando como a variação dessa característica modificaria o resultado do modelo para este caso preciso.
Diagnóstico de Previsão Individual
O processo completo de análise de uma única previsão usando vários métodos locais (LIME, SHAP, contrafactuais) para compreender os mecanismos subjacentes, validar a decisão e identificar potenciais vieses.
Estabilidade da Explicação Local
A propriedade de um método de interpretação local de produzir explicações consistentes para observações muito semelhantes, uma questão crítica para a confiança e fiabilidade dos diagnósticos individuais.
Gradientes Integrados (Integrated Gradients)
Um método de atribuição local para modelos diferenciáveis que calcula a importância de uma característica integrando o gradiente da saída em relação a essa característica ao longo de um caminho de uma linha de base até a entrada.
Linha de Base (Baseline)
Um ponto de referência (muitas vezes um vetor nulo ou uma instância média) usado em métodos de atribuição como os gradientes integrados para medir a contribuição de uma característica em relação a um estado neutro ou esperado.