Glossário IA
O dicionário completo da Inteligência Artificial
Métodos LIME
Técnica de explicação local que aproxima o comportamento de um modelo complexo por um modelo simples e interpretável em torno de uma previsão específica.
Valores SHAP
Abordagem baseada na teoria dos jogos para quantificar o impacto de cada característica na previsão final do modelo.
Atribuição de características
Conjunto de técnicas que atribuem uma pontuação de importância a cada variável de entrada para explicar sua contribuição para a decisão do modelo.
Análise de contra-exemplos
Métodos que geram cenários modificados mostrando quais condições mínimas devem mudar para alterar a previsão do modelo.
Mapas de atenção
Técnicas de visualização que mostram as áreas ou elementos nos quais um modelo de deep learning se concentra para tomar uma decisão.
Modelos substitutos
Criação de modelos simples e interpretáveis que imitam o comportamento de modelos complexos de caixa preta, mantendo-se compreensíveis.
Extração de regras
Processo que converte decisões de modelos complexos em conjuntos de regras lógicas facilmente interpretáveis por humanos.
Interpretação causal
Métodos que distinguem relações causais de simples correlações para fornecer explicações mais profundas e confiáveis.
Análise de sensibilidade
Avaliação sistemática do impacto das variações das variáveis de entrada nas previsões do modelo.
Métricas de avaliação da explicabilidade
Indicadores quantitativos para medir a qualidade, a fidelidade e a utilidade das explicações geradas pelos modelos de IA.
Explicações por protótipos
Abordagem que explica as previsões identificando os exemplos mais representativos ou protótipos no espaço dos dados.
Visualização de decisão
Técnicas gráficas que representam visualmente o processo de tomada de decisão do modelo para facilitar a compreensão humana.