Glossário IA
O dicionário completo da Inteligência Artificial
Explicitação Intrínseca
Abordagem onde a interpretabilidade é diretamente integrada na estrutura do modelo desde sua concepção, tornando o modelo naturalmente transparente.
Modelo Caixa Preta
Sistema de IA cujo funcionamento interno é opaco ou complexo, dificultando a compreensão direta de seus mecanismos de decisão.
Modelo Caixa Branca
Modelo intrinsecamente transparente cujos mecanismos internos e processos de decisão são diretamente observáveis e compreensíveis.
Análise de Sensibilidade
Técnica pós-hoc que avalia como as variações nas características de entrada afetam as previsões do modelo para identificar fatores influentes.
Modelo Interpretável por Natureza
Arquitetura intrínseca projetada para ser transparente, como árvores de decisão ou regressão linear, não exigindo explicações externas.
Aproximação Local
Abordagem pós-hoc que explica uma previsão específica criando um modelo simples que aproxima o comportamento do modelo complexo apenas na vizinhança dessa previsão.
Aproximação Global
Método pós-hoc que visa criar um modelo simplificado que imita o comportamento geral do modelo complexo em todo o seu espaço de entrada.
Método de Perturbação
Técnica pós-hoc que analisa o impacto nas previsões modificando sistematicamente as características de entrada para compreender seu papel na decisão.
Mapa de Saliency
Visualização pós-hoc que mostra as regiões ou características mais influentes nos dados de entrada para uma previsão específica do modelo.
Árvore de Decisão Interpretável
Modelo intrínseco que utiliza uma estrutura hierárquica de regras se-então para tomar decisões, oferecendo rastreabilidade completa do raciocínio.
Análise Contrafactual
Método pós-hoc que identifica as modificações mínimas necessárias nas características de entrada para alterar a previsão do modelo para um resultado diferente.
Modelo Proxy
Modelo simples e interpretável treinado pós-hoc para imitar o comportamento de um modelo complexo, servindo como aproximação para facilitar a interpretação.
Modelo Híbrido Interpretável
Arquitetura intrínseca que combina componentes complexos com mecanismos de interpretação integrados para equilibrar desempenho e transparência.
Atribuição de Características
Processo pós-hoc que atribui pontuações de contribuição a cada característica de entrada para explicar seu papel individual em uma previsão específica.