Glossário IA
O dicionário completo da Inteligência Artificial
Estabilidade (Stability)
Medida da consistência das explicações geradas para instâncias semelhantes ou para a mesma instância com ligeiras variações de dados. Uma baixa estabilidade pode indicar uma explicação não robusta ou um modelo instável.
Infidelidade (Infidelity)
Métrica que quantifica o desvio entre o gradiente do modelo de explicação e o gradiente do modelo de caixa preta. Ela mede a capacidade de uma explicação capturar corretamente a sensibilidade do modelo às variações de entrada.
Complexidade da Explicação (Explanation Complexity)
Medida da simplicidade ou concisão de uma explicação, frequentemente avaliada pelo número de regras, características ou termos não nulos. Uma baixa complexidade favorece uma melhor compreensão humana.
Pontuação de Robustez (Robustness Score)
Avaliação quantitativa da variação das explicações face a perturbações adversas nos dados de entrada. Uma pontuação elevada significa que as explicações resistem bem a ataques e ruídos.
Área sob a Curva de Fidelidade (AUC-Fidelity)
Métrica agregada que calcula a área sob a curva da fidelidade em função do tamanho da vizinhança ou do número de características utilizadas. Permite comparar o desempenho global dos métodos de explicação.
Lacuna de Previsão Local (Local Prediction Gap)
Diferença absoluta entre a previsão do modelo de caixa preta e a do modelo de explicação para uma instância específica. Esta métrica avalia a precisão da aproximação local.
Taxa de Compressão (Compression Rate)
Razão entre o número de características no modelo original e o número de características na explicação simplificada. Quantifica o grau de simplificação da explicação em relação ao modelo completo.
Coerência das Explicações (Explanation Coherence)
Medida da coerência lógica entre as explicações geradas para diferentes instâncias da mesma classe ou para instâncias vizinhas. Avalia a coerência global do sistema de explicação.
Função de Perda de Explicação (Explanation Loss Function)
Função objetivo matemática utilizada para otimizar os parâmetros de um modelo de explicação. Geralmente, equilibra a fidelidade ao modelo original e a complexidade da explicação.
Sensibilidade ao Ruído (Noise Sensitivity)
Métrica que quantifica a variação das explicações quando ruídos aleatórios são adicionados aos dados de entrada. Uma baixa sensibilidade ao ruído é desejável para explicações confiáveis.
Monotonicidade da Explicação (Explanation Monotonicity)
Propriedade que mede se as importâncias das características na explicação variam de forma consistente com as mudanças monótonas dos valores de entrada. Garante a consistência direcional das explicações.
Erro de Reconstrução (Reconstruction Error)
Métrica que avalia a capacidade de uma explicação de reconstruir o comportamento do modelo original, frequentemente medida pelo erro quadrático médio entre as previsões. É crucial para métodos baseados na destilação de modelos.
Índice de Seletividade (Selectivity Index)
Medida que quantifica a capacidade de um método de explicação de se concentrar nas características mais relevantes para uma dada previsão. Um índice alto indica uma melhor identificação das variáveis-chave.
Pontuação de Fidelidade Normalizada (Normalized Fidelity Score)
Métrica de fidelidade escalonada entre 0 e 1 para facilitar a comparação entre diferentes modelos e métodos de explicação. Permite uma avaliação padronizada da qualidade das explicações.
Protocolo de Avaliação por Ablação de Características (Feature Ablation Evaluation Protocol)
Metodologia sistemática que avalia a qualidade de uma explicação medindo o impacto no desempenho do modelo quando as características identificadas como importantes são removidas ou mascaradas.
Métrica de Completude (Completeness Metric)
Avaliação quantitativa que mede se uma explicação captura todos os fatores relevantes que contribuíram para uma previsão específica. Opõe-se a explicações parciais ou incompletas.
Variância da Explicação (Explanation Variance)
Medida estatística da dispersão das explicações geradas em múltiplas execuções para a mesma instância. Uma baixa variância é essencial para a reprodutibilidade e confiabilidade das explicações.