Glossário IA
O dicionário completo da Inteligência Artificial
XAI (IA Explicável)
Conjunto de técnicas e métodos que permitem tornar os sistemas de inteligência artificial compreensíveis para os humanos, transformando processos de decisão complexos em explicações interpretáveis.
Interpretabilidade local
Capacidade de explicar a previsão de um modelo para uma instância específica, identificando as características que influenciaram essa decisão particular.
Interpretabilidade global
Compreensão geral do comportamento de um modelo de IA, explicando como ele toma suas decisões de forma geral em todo o conjunto de dados.
Caixa preta
Sistema de IA cujo funcionamento interno é opaco ou incompreensível para os humanos, dificultando a explicação de suas decisões e processos de raciocínio.
LIME (Explicações Locais Interpretáveis Independentes do Modelo)
Técnica de interpretação que explica previsões individuais criando modelos locais simples que aproximam o comportamento do modelo complexo ao redor de uma previsão específica.
SHAP (Explicações Aditivas de Shapley)
Método de explicação baseado na teoria dos jogos que quantifica o impacto de cada característica na previsão final, distribuindo equitativamente o crédito entre todas as características.
Rastreabilidade das decisões
Capacidade de acompanhar e documentar cada etapa do processo de decisão de um sistema de IA, desde os dados de entrada até o resultado final, para garantir a auditabilidade.
Auditabilidade da IA
Possibilidade de examinar sistematicamente um sistema de IA para avaliar sua conformidade com normas, regulamentos e requisitos éticos, especialmente em relação a vieses e discriminação.
Explicabilidade dos modelos
Capacidade de um sistema de IA fornecer justificativas compreensíveis e coerentes de suas decisões, permitindo que os usuários compreendam o raciocínio subjacente.
Importância das características
Medida quantitativa da influência de cada variável de entrada nas previsões do modelo, permitindo identificar os fatores mais determinantes na tomada de decisão.
Visualização das decisões
Técnicas gráficas representando o processo de decisão de um modelo de IA, permitindo que os usuários compreendam intuitivamente como as previsões são geradas.
Metaexplicações
Explicações de segundo nível que descrevem por que o modelo de IA produz certas explicações em vez de outras, aumentando a confiança no próprio sistema explicativo.
Relatórios automatizados
Sistemas que geram automaticamente relatórios detalhados explicando as decisões da IA, incluindo os dados utilizados, o raciocínio seguido e os níveis de confiança.
Validação humana
Processo pelo qual especialistas humanos examinam e validam as explicações fornecidas pelos sistemas de IA para garantir sua relevância e exatidão.
Documentação de modelos
Registro estruturado e completo das características, desempenho, limitações e comportamentos de um modelo de IA para garantir sua transparência e reutilizabilidade.
Diagnóstico de viés
Análise sistemática das decisões de um modelo para identificar, quantificar e compreender as potenciais discriminações baseadas em características protegidas ou sensíveis.
Mapas de calor de atenção
Visualizações que mostram as áreas ou características nas quais um modelo de IA se concentra particularmente para tomar sua decisão, facilitando a compreensão de seu raciocínio.