Glossário IA
O dicionário completo da Inteligência Artificial
Explicabilidade post-hoc
Conjunto de técnicas aplicadas após o treinamento de um modelo para interpretar suas decisões sem modificar sua estrutura interna. Esses métodos permitem analisar retroativamente as previsões de modelos complexos como as redes neurais profundas.
Importância das características globais
Métrica que quantifica o impacto médio de cada variável de entrada no conjunto das previsões do modelo. Permite identificar os fatores mais influentes na tomada de decisão global do sistema de IA.
Modelos intrinsecamente interpretáveis
Categoria de algoritmos cuja estrutura interna é naturalmente compreensível por humanos, como árvores de decisão ou regressões lineares. Esses modelos oferecem transparência nativa sem a necessidade de métodos de explicação adicionais.
Contra-exemplos contrafactuais
Geração de exemplos hipotéticos mostrando como uma modificação mínima dos dados de entrada mudaria a previsão do modelo. Fornecem explicações intuitivas na forma de cenários alternativos compreensíveis por não-especialistas.
Visualização de atribuições
Representações gráficas mostrando quais partes dos dados de entrada (pixels, palavras, etc.) contribuem mais para uma previsão específica. Permite uma compreensão visual imediata do raciocínio do modelo.
Regras de extração automática
Técnicas que permitem gerar automaticamente regras lógicas simples (SE-ENTÃO) que aproximam o comportamento de um modelo complexo. Converte o raciocínio da IA em um formato facilmente compreensível por não-técnicos.
Geração de textos explicativos
Processo que utiliza o processamento de linguagem natural para produzir automaticamente explicações textuais coerentes e compreensíveis a partir dos dados de interpretação do modelo. Transforma as métricas técnicas em narrativa acessível.
Simplificação por abstração
Método que consiste em reduzir a complexidade das explicações agrupando características semelhantes ou utilizando conceitos de nível mais alto. Facilita a compreensão eliminando detalhes técnicos não essenciais.