Glossário IA
O dicionário completo da Inteligência Artificial
Modelo agnóstico
Abordagem de explicação que funciona com qualquer modelo preditivo sem exigir conhecimento de sua arquitetura ou parâmetros internos. Os métodos agnósticos tratam o modelo como uma caixa preta e baseiam-se apenas em suas entradas e saídas.
Explicação local
Interpretação que explica a previsão de um modelo para uma instância específica, em vez do comportamento global do modelo. As explicações locais são particularmente úteis para entender por que uma decisão particular foi tomada.
Perturbação de dados
Técnica que consiste em criar pequenas variações de uma instância original para gerar um conjunto de dados sintéticos vizinhos. No LIME, essas perturbações servem para construir um conjunto de treinamento para o modelo simples local.
Pesos das características
Medidas quantitativas que indicam a importância relativa de cada característica na decisão local do modelo. Esses pesos permitem identificar os fatores mais influentes para uma previsão específica.
Vizinhança de previsão
Conjunto de pontos de dados próximos à instância original no espaço de características, usado para aprender o modelo simples local. A definição dessa vizinhança é crucial para a relevância da explicação gerada.
Modelo substituto
Modelo simples e interpretável (como regressão linear ou árvore de decisão) que aproxima localmente o comportamento do modelo complexo. Este modelo é treinado em dados perturbados para gerar explicações.
Fidelidade da explicação
Medida da precisão com que o modelo simples local reproduz as previsões do modelo complexo na vizinhança considerada. Uma alta fidelidade garante que a explicação represente fielmente o comportamento do modelo original.
Segmento
Região contígua de dados usada para explicar previsões em imagens ou textos no LIME. Os segmentos permitem agrupar pixels ou palavras adjacentes para uma explicação mais coerente.
Superpixel
Grupo de pixels adjacentes que compartilham características semelhantes (cor, textura, intensidade), usado como unidade básica para explicações de imagens no LIME. Os superpixels reduzem a complexidade computacional enquanto preservam informações visuais relevantes.
Pontuação de relevância
Valor numérico atribuído a cada característica ou segmento indicando sua influência na previsão local. Essa pontuação permite hierarquizar os elementos mais importantes na tomada de decisão do modelo.
Núcleo de similaridade
Função matemática que define a proximidade entre a instância original e as instâncias perturbadas no espaço de características. Este núcleo pondera a importância dos pontos na aprendizagem do modelo local.
Explicação contrafactual
Tipo de explicação que mostra como a previsão mudaria se certas características fossem modificadas. Complementar ao LIME, esta abordagem ajuda a entender as condições necessárias para obter uma previsão diferente.
Estabilidade da explicação
Medida da coerência das explicações geradas para instâncias semelhantes ou durante múltiplas execuções. Uma boa estabilidade é essencial para a confiança nas explicações produzidas.
Área de influência
Zona no espaço de características onde a explicação local permanece válida e fiel ao comportamento do modelo complexo. A determinação desta área é crucial para avaliar o alcance da explicação.
Complexidade da explicação
Número de características ou segmentos utilizados na explicação local, frequentemente limitado para manter a interpretabilidade. Um compromisso entre fidelidade e simplicidade deve ser encontrado para explicações eficazes.
Mapa de calor
Visualização que representa espacialmente a importância de diferentes regiões de uma imagem na previsão do modelo. No LIME, os mapas de calor utilizam as pontuações de relevância para destacar as áreas influentes.