Glossário IA
O dicionário completo da Inteligência Artificial
Fidelidade
Métrica que quantifica a coerência entre as explicações geradas e as previsões efetivas do modelo, medindo se a explicação representa fielmente o comportamento do modelo.
Esparsidade
Indicador que avalia a concisão das explicações, medindo o número mínimo de características necessárias para justificar uma previsão, favorecendo explicações simplificadas.
Estabilidade
Medida de robustez que avalia a coerência das explicações quando as entradas sofrem ligeiras variações, garantindo a fiabilidade das interpretações face às perturbações.
Completude
Métrica que avalia se uma explicação cobre exaustivamente todos os fatores relevantes que influenciaram a decisão do modelo, evitando explicações parciais ou enviesadas.
Consistência
Indicador que mede se modelos com desempenhos semelhantes geram explicações coerentes para as mesmas entradas, garantindo a uniformidade entre modelos.
Fidedignidade
Métrica que avalia em que medida uma explicação reflete precisamente o processo de raciocínio interno do modelo, distinguindo a correlação da causalidade real.
Métrica de Proximidade
Medida que quantifica a distância entre a explicação gerada e o comportamento real do modelo, avaliando a qualidade da aproximação interpretativa.
Pontuação de Compreensibilidade
Indicador que mede a facilidade com que os humanos podem compreender e interpretar as explicações geradas, combinando complexidade sintática e cognitiva.
Medida de Necessidade
Métrica que quantifica a importância crítica de cada característica na explicação, avaliando se a sua remoção altera significativamente a previsão do modelo.
Índice de Suficiência
Indicador que mede se o conjunto de características explicadas é suficiente para justificar completamente a previsão do modelo sem informações adicionais.
Pontuação de Robustez
Métrica que avalia a resistência das explicações a ataques adversariais e manipulações intencionais, garantindo a fiabilidade em condições hostis.
Compromisso Interpretibilidade-Desempenho
Métrica que quantifica o compromisso entre a complexidade do modelo (desempenho) e a qualidade das explicações geradas (interpretibilidade).
Incerteza da Explicação
Medida que quantifica o nível de confiança ou incerteza associado às explicações geradas, essencial para avaliar a sua fiabilidade.
Validade Contrafactual
Métrica que avalia a relevância e a exequibilidade dos exemplos contrafactuais gerados para explicar as decisões do modelo.