Glossário IA
O dicionário completo da Inteligência Artificial
AutoML Interpretável
Subdomínio do AutoML que visa gerar automaticamente modelos de aprendizado de máquina que otimizam simultaneamente o desempenho preditivo e a capacidade de interpretação humana das decisões.
Compromisso entre Desempenho e Interpretabilidade
Dilema fundamental em AutoML onde a melhoria da precisão preditiva geralmente acompanha uma diminuição na interpretabilidade do modelo, exigindo um equilíbrio ótimo dependendo do caso de uso.
Importância Local de Features
Avaliação do impacto de cada feature em uma previsão específica, explicando por que o modelo tomou uma decisão particular para um indivíduo específico.
Explicabilidade vs Interpretabilidade
Distinção onde a interpretabilidade diz respeito à compreensão intrínseca do mecanismo do modelo, enquanto a explicabilidade visa fornecer justificativas compreensíveis das previsões, mesmo para modelos opacos.
Modelos Substitutos (Surrogate Models)
Modelos simples e interpretáveis treinados para aproximar o comportamento de um modelo complexo, permitindo gerar explicações globais ou locais das decisões do modelo original.
Explicações Agnósticas ao Modelo (Model-agnostic Explanations)
Técnicas de interpretação que podem ser aplicadas a qualquer tipo de modelo de aprendizado de máquina sem exigir conhecimento sobre sua arquitetura interna.
Modelos Baseados em Regras (Rule-based Models)
Modelos que utilizam conjuntos de regras SE-ENTÃO interpretáveis para tomar decisões, oferecendo um equilíbrio natural entre desempenho e transparência no AutoML.
Interpretabilidade Post-hoc
Abordagem que consiste em analisar e explicar um modelo já treinado sem modificar sua estrutura, ao contrário dos modelos intrinsecamente interpretáveis.
Seleção de Recursos Automatizada
Processo AutoML que identifica automaticamente o subconjunto ótimo de variáveis preditivas que maximiza o desempenho enquanto preserva a interpretabilidade do modelo final.
Pontuação de Fidelidade
Métrica que avalia a fidelidade de uma explicação ou modelo substituto medindo o quão fielmente ela reproduz as previsões do modelo original.
Redes Neurais Interpretáveis
Arquiteturas de redes neurais projetadas especificamente para serem interpretáveis, como redes com restrições de monotonicidade ou redes de protótipos.