Glossário IA
O dicionário completo da Inteligência Artificial
Atribuição Local vs Global
Distinção entre métodos que explicam previsões individuais (local) e aqueles que avaliam a importância das características em todo o conjunto de dados (global).
Atribuição Agnóstica ao Modelo
Abordagens de explicação que funcionam independentemente da arquitetura interna do modelo, tratando-o como uma caixa preta para gerar atribuições.
Atribuição Específica do Modelo
Técnicas de atribuição que exploram a estrutura interna específica de um modelo (árvores de decisão, redes neurais) para fornecer explicações mais precisas.
Mecanismos de Atenção
Componentes de redes neurais que aprendem pesos de importância para diferentes partes da entrada, servindo naturalmente como um mecanismo de atribuição.
Propagação de Relevância Camada a Camada
Técnica que propaga a previsão para trás através da rede, distribuindo a relevância da saída para os neurônios e características de entrada camada por camada.
Ablação de Características
Técnica sistemática de remoção ou mascaramento de características para avaliar seu impacto individual no desempenho do modelo.
Atribuição de Caminho
Método de atribuição que segue os caminhos de ativação na rede neural para atribuir créditos às características de entrada com base em seus fluxos de contribuição.
Atribuição Baseada em Gradiente
Família de métodos que utilizam os gradientes da saída em relação às entradas para quantificar a sensibilidade e a importância das características.
Interação de Características
Medida do efeito combinado de pares ou grupos de características na previsão do modelo, para além das suas contribuições individuais.
Atribuição de Entrada
Processo de atribuição de pontuações de importância a elementos específicos da entrada (pixels, palavras, variáveis) para explicar o seu papel na decisão do modelo.