Glossário IA
O dicionário completo da Inteligência Artificial
Métodos de Importância Local (LIME)
Técnicas de explicação que analisam as previsões individuais para entender como um modelo toma uma decisão específica.
Métodos SHAP (SHapley Additive exPlanations)
Abordagem baseada na teoria dos jogos para quantificar o impacto de cada característica nas previsões do modelo.
Análise de características
Estudo sistemático da importância, relevância e impacto das variáveis de entrada nas previsões do modelo.
Visualização de modelos
Conjunto de técnicas gráficas que permitem representar visualmente o comportamento interno e as decisões dos modelos de IA.
Análise de contrafactuais
Geração de cenários alternativos para entender quais modificações mínimas nas entradas mudariam a previsão do modelo.
Regras de interpretação
Extração de regras lógicas simples e compreensíveis a partir de modelos complexos como redes neurais.
Interpretabilidade pós-hoc
Métodos aplicados após o treinamento para explicar as decisões de modelos inicialmente não interpretáveis.
Interpretabilidade por design
Abordagens onde a transparência é integrada desde o design do modelo, criando algoritmos naturalmente explicáveis.
Explicações causais
Análise das relações de causa e efeito nas decisões do modelo para ir além das simples correlações.
Análise de vieses algorítmicos
Detecção, quantificação e explicação dos vieses sistemáticos nas previsões dos modelos de IA.
Métricas de fidelidade das explicações
Conjunto de medidas para avaliar a qualidade e a precisão das explicações geradas pelas técnicas de interpretabilidade.
Árvores de decisão interpretáveis
Estruturas em árvore especificamente projetadas para oferecer decisões transparentes e facilmente compreensíveis.
Mapas de Saliência (Saliency Maps)
Técnicas de visualização que destacam as regiões ou características mais influentes nos dados de entrada.
Explicações multimodais
Abordagens de interpretação adaptadas a modelos que processam simultaneamente vários tipos de dados (texto, imagem, áudio).
Auditoria de Transparência
Avaliação sistemática e independente da transparência, equidade e confiabilidade dos modelos de IA.