Glossário IA
O dicionário completo da Inteligência Artificial
Explicação por Decomposição Modal
Método de interpretabilidade que isola e quantifica a contribuição individual de cada modalidade de entrada para a previsão final do modelo, permitindo compreender a sua influência relativa.
Gradiente Integrado Multimodal
Extensão da técnica dos gradientes integrados para modelos multimodais, que calcula a atribuição ao longo de um caminho de integração no espaço de características combinadas de todas as modalidades.
Perturbação Antagónica Multimodal
Abordagem de explicação que avalia a importância das características introduzindo perturbações subtis e coordenadas numa ou mais modalidades para observar o impacto na saída do modelo.
Âncora Lógica Multimodal
Regra de explicação sob a forma de uma conjunção de condições relativas a características de diferentes modalidades (ex: 'SE o texto contém 'gato' E a imagem mostra uma área escura'), que é suficiente para ancorar a previsão.
Projeção T-SNE Cruzada
Técnica de visualização que projeta as representações de várias modalidades num espaço 2D comum usando t-SNE, a fim de observar os alinhamentos e as correlações entre elas.
Matriz de Co-atribuição Modal
Representação matricial onde cada elemento (i, j) quantifica o score de atribuição conjunta entre uma característica da modalidade i e uma característica da modalidade j para uma dada previsão.
Explicação por Contrafactual Multimodal
Geração de um exemplo modificado numa ou mais modalidades que altera a previsão do modelo, explicando assim a decisão inicial ao realçar as condições críticas.
Alinhamento de Espaços Latentes
Processo de interpretação que visa compreender como um modelo projeta e alinha os espaços de representação de diferentes modalidades num espaço semântico partilhado.
Regularização de Ortogonalidade Modal
Técnica utilizada durante o treinamento para forçar as representações de diferentes modalidades a capturar informações complementares em vez de redundantes, facilitando sua interpretação distinta.
Mascaramento de Importância Modal (Modal Importance Masking)
Método que mascara sequencialmente partes de cada modalidade de entrada para medir a queda de desempenho do modelo, criando assim um mapa de importância espacial e temporal para cada tipo de dado.
Pipeline de Explicação Hierárquica Multimodal
Abordagem estruturada que gera explicações em vários níveis: primeiro a importância de cada modalidade, depois a importância das características dentro da modalidade mais influente.
Síntese de Explicações Textuais a partir de Dados Visuais
Tarefa que consiste em gerar uma explicação em linguagem natural que justifique a previsão de um modelo com base nas regiões ou objetos salientes identificados em uma imagem de entrada.
Interpretabilidade Post-Hoc por Emulação de Modelo Unimodal
Método que treina um modelo simples e interpretável (como uma árvore de decisão) para imitar as previsões do modelo multimodal complexo, utilizando as características de uma única modalidade por vez.