Glossário IA
O dicionário completo da Inteligência Artificial
Seletividade (Selectivity)
Mede a capacidade de uma explicação de se concentrar nas características mais relevantes para uma previsão específica, ignorando ruídos ou variáveis não informativas. Quantifica o grau de parcimônia da explicação.
Pontuação de Fidelidade R² (R-squared Fidelity Score)
Coeficiente de determinação usado para avaliar a fidelidade de um modelo de explicação linear, medindo a proporção da variância das previsões do modelo de caixa preta que é explicada pelo modelo de explicação.
Área Sob a Curva de Precisão-Recall (AUPRC) para Interpretabilidade
Adaptação da métrica AUPRC para avaliar a qualidade das explicações baseadas em características, tratando a seleção das características mais importantes como um problema de classificação binária.
Custo Computacional da Explicação (Explanation Computational Cost)
Quantifica os recursos temporais e materiais necessários para gerar uma explicação. É um critério prático essencial para a implantação de métodos de interpretabilidade em larga escala.
Taxa de Descontinuidade (Discontinuity Rate)
Métrica que avalia a variação súbita e não linear das explicações para instâncias de dados muito próximas umas das outras. Uma taxa alta indica uma explicação instável e potencialmente não intuitiva.
Pontuação de Sensibilidade (Sensitivity Score)
Quantifica como as explicações mudam em resposta a modificações no modelo subjacente (por exemplo, após um novo treinamento). Baixa sensibilidade é desejável para explicações consistentes.
Métrica de Coerência (Coherence Metric)
Avalia se as explicações para diferentes previsões são logicamente coerentes entre si, por exemplo, se as características identificadas como importantes para uma classe são opostas para uma classe antagônica.
Perda de Fidelidade (Fidelity Loss)
Função objetivo usada durante o treinamento de modelos interpretáveis que penaliza o desvio entre as previsões do modelo interpretável e as do modelo de caixa preta que ele busca explicar.
Índice de Parcimônia (Sparsity Index)
Mede a proporção de características ou coeficientes não nulos em uma explicação em relação ao número total de características possíveis. Um índice elevado indica uma explicação mais simples e potencialmente mais fácil de interpretar.