Glossário IA
O dicionário completo da Inteligência Artificial
Contra-exemplo
Instância gerada que difere minimamente da entrada original, mas que produz uma previsão diferente do modelo, permitindo explicar as condições de mudança de decisão.
Distância de Hamming
Métrica que mede o número mínimo de características a serem modificadas para transformar uma instância em um contra-exemplo, essencial para avaliar a parcimônia das explicações.
Validade do contra-exemplo
Critério fundamental que garante que o contra-exemplo gerado produz efetivamente a previsão desejada e diferente daquela da instância original.
Proximidade espacial
Medida de similaridade entre a instância original e seu contra-exemplo no espaço de características, crucial para garantir a relevância e a credibilidade da explicação.
Acionabilidade
Capacidade de um contra-exemplo de sugerir modificações realizáveis e relevantes para o usuário, transformando a explicação em recomendações práticas.
Diversidade de contra-exemplos
Geração de conjuntos de contra-exemplos que cobrem diferentes caminhos alternativos para modificar a previsão, oferecendo uma visão completa das possibilidades de intervenção.
Robustez do modelo
Análise da estabilidade das previsões diante dos contra-exemplos, revelando os pontos fracos do modelo e suas zonas de sensibilidade às variações de entrada.
Interface homem-máquina
Sistema interativo que permite aos usuários gerar e explorar contra-exemplos, facilitando a compreensão intuitiva dos mecanismos de decisão do modelo.
Interpretação Causal
Extensão dos contraexemplos para identificar relações de causa e efeito entre características e previsões, para além das simples correlações estatísticas.
Conjunto de Contraexemplos
Coleção organizada de contraexemplos que exploram diferentes dimensões de modificação, oferecendo uma compreensão multidimensional das fronteiras de decisão.
Regularização de Penalidade
Mecanismo que controla a magnitude das modificações permitidas durante a geração de contraexemplos, evitando mudanças irrealistas ou excessivas.
Restrições de Pertença
Regras que garantem que os contraexemplos permaneçam em domínios válidos e plausíveis, respeitando os limites físicos ou lógicos do problema.
Método de Exploração
Algoritmo sistemático para descobrir eficientemente contraexemplos relevantes no espaço de alta dimensão das características do modelo.
Função de Custo
Expressão matemática que combina vários critérios para avaliar a qualidade de um contraexemplo, guiando a otimização para as soluções mais relevantes.