Glossário IA
O dicionário completo da Inteligência Artificial
Fidelidade da Explicação
Medida que quantifica a correspondência entre as previsões do modelo caixa-preta e as do modelo interpretável usado para gerar as explicações. Uma fidelidade elevada indica que a explicação representa fielmente o comportamento do modelo original na região local considerada.
Estabilidade das Explicações
Indicador que avalia a consistência das explicações geradas para instâncias similares ou para a mesma instância com pequenas variações. A estabilidade garante que as explicações não variem de maneira errática diante de mudanças mínimas nos dados de entrada.
Completude Explicativa
Métrica que mede a capacidade de uma explicação de capturar todos os fatores relevantes que influenciam a decisão do modelo. Uma explicação completa deve integrar o conjunto de características significativas sem omitir elementos cruciais.
Relevância Semântica
Avaliação da coerência entre a explicação gerada e o conhecimento do domínio ou o raciocínio humano esperado. Esta métrica quantifica se as explicações produzidas estão alinhadas com a lógica e a intuição dos especialistas do domínio.
Compacidade da Explicação
Medida da concisão de uma explicação, avaliando a relação entre a quantidade de informação fornecida e sua complexidade estrutural. Uma explicação compacta privilegia os elementos mais relevantes enquanto minimiza a redundância informacional.
Robustez Explicativa
Capacidade de uma explicação de manter sua validade diante de perturbações ou ataques adversariais nos dados de entrada. Esta métrica avalia a resistência das explicações a manipulações maliciosas que visam induzir ao erro.
Granularidade Fina
Nível de detalhe no qual uma explicação opera, variando desde explicações globais (modelo inteiro) até explicações locais (instância específica). A granularidade fina determina a precisão e a especificidade da interpretação fornecida.
Consistência Inter-Explicações
Medida que avalia a coerência lógica entre diferentes explicações geradas para instâncias variadas mas semanticamente próximas. Esta métrica garante que as explicações sigam padrões razoáveis e não contraditórios.
Usabilidade percebida
Indicador qualitativo que mede a facilidade com que os usuários podem compreender, interpretar e aplicar as explicações geradas. A usabilidade percebida avalia a adequação entre a complexidade técnica da explicação e as capacidades cognitivas do usuário.
Verificabilidade explicativa
Capacidade de confirmar ou refutar de forma independente a validade das explicações fornecidas pelo modelo. A verificabilidade permite aos usuários validar a coerência das explicações em relação a conhecimentos externos ou testes empíricos.
Divergência de explicação
Diferença quantitativa entre a complexidade inerente do modelo e a simplicidade de sua explicação. Uma divergência elevada pode indicar uma perda significativa de informação durante o processo de simplificação explicativa.
Especificidade causal
Medida que avalia se uma explicação identifica corretamente as relações de causa e efeito em vez de simples correlações. A especificidade causal distingue os fatores que realmente influenciam a decisão daqueles que são simplesmente co-ocorrentes.
Generalização explicativa
Capacidade de uma explicação local aplicar-se de forma consistente a outras instâncias similares do conjunto de dados. Esta métrica avalia se os padrões explicativos identificados podem ser extrapolados além do caso específico estudado.
Confiança explicativa
Nível de certeza quantificado associado a uma explicação, indicando a probabilidade de a explicação estar correta. A confiança explicativa permite aos usuários avaliar a confiabilidade das interpretações fornecidas pelo sistema.
Equidade de explicação
Métrica que avalia se as explicações geradas tratam de forma equitativa diferentes grupos demográficos ou subpopulações. A equidade de explicação garante a ausência de vieses discriminatórios na forma como as decisões são justificadas.
Cobertura explicativa
Proporção do espaço de características ou instâncias para as quais o modelo pode gerar explicações válidas. Uma cobertura elevada assegura que o sistema de explicação pode operar na maioria dos casos encontrados na prática.
Latência Explicativa
Tempo computacional necessário para gerar uma explicação após o modelo ter produzido sua previsão. Esta métrica é crucial para aplicações em tempo real onde as explicações devem ser fornecidas rapidamente.
Fidelidade Contrafactual
Medida específica que avalia a qualidade das explicações contrafactuais em termos de minimalidade das mudanças necessárias e plausibilidade dos cenários gerados. Esta métrica garante que os contrafactuais propostos são realistas e acionáveis.