Glossário IA
O dicionário completo da Inteligência Artificial
Âncoras
Abordagem de explicação local que identifica regras SE-ENTÃO de alta precisão (âncoras) que ancoram a predição localmente, garantindo que modificações nas características não cobertas não afetem a predição.
Explicações Contrafactuais
Método que gera cenários hipotéticos mínimos que mostram como alterar as características de entrada para obter uma predição diferente, explicando assim as fronteiras de decisão do modelo.
Modelos Locais Substitutos
Modelos simplificados treinados para aproximar o comportamento de um modelo complexo apenas na vizinhança de uma predição específica, fornecendo explicações interpretáveis localmente.
LRP (Propagação de Relevância por Camadas)
Técnica de propagação reversa que redistribui a predição final da rede neural através de suas camadas até as características de entrada, quantificando sua contribuição individual.
DeepLIFT
Método de atribuição de relevância para redes neurais profundas que compara a ativação de cada neurônio ao seu estado de referência, calculando as contribuições por diferença em vez de gradientes.
Gradientes Integrados
Técnica de atribuição que integra os gradientes ao longo de um caminho desde uma referência base até a entrada atual, garantindo propriedades axiomáticas como sensibilidade e invariância de implementação.
Sensibilidade à Oclusão
Abordagem de explicação local que sistematicamente mascara regiões da entrada e observa o impacto na predição, identificando as áreas críticas para a decisão do modelo.
Funções de Influência
Técnica analítica que estima como os parâmetros do modelo e suas predições mudariam se um ponto de treinamento específico fosse modificado, identificando os dados influentes para uma predição.
ICE (Expectativa Condicional Individual)
Método que visualiza como a previsão de um modelo muda para uma observação individual quando o valor de uma característica varia, revelando efeitos heterogêneos e interações.
Kernel SHAP
Variante do SHAP que usa uma abordagem de kernel para estimar os valores de Shapley sem enumerar todas as coalizões, aplicável a qualquer modelo de machine learning.
Tree SHAP
Implementação otimizada do SHAP especificamente projetada para modelos baseados em árvores, calculando os valores exatos de Shapley em tempo polinomial graças à estrutura arbórea.
Fidelidade Local
Medida que avalia a precisão com que um modelo de explicação local reproduz as previsões do modelo original na vizinhança de uma instância específica, crucial para a confiança na explicação.
Perturbação de Características
Técnica de análise local que modifica sistematicamente as características de entrada para observar mudanças na previsão, identificando as características mais sensíveis para uma decisão específica.
Atribuição Local de Características
Processo que quantifica a contribuição de cada característica para uma previsão específica, diferente da importância global que considera todo o conjunto de dados.
Visualização da Fronteira de Decisão
Método gráfico que mostra como o modelo separa as classes em torno de uma previsão específica, ajudando a entender os mecanismos de decisão locais e a robustez da previsão.
Aproximação Linear Local
Técnica que aproxima localmente um modelo não-linear por um modelo linear simples em torno de um ponto de previsão, facilitando a interpretação de decisões complexas.
Importância de Permutação Local
Variante da importância por permutação que avalia o impacto da randomização de cada característica em uma previsão específica, em vez de em todo o conjunto de dados.