Glossário IA
O dicionário completo da Inteligência Artificial
XAI (IA Explicável)
Conjunto de técnicas e métodos que visam tornar as decisões dos sistemas de inteligência artificial compreensíveis para os humanos, essencial para a confiança e a aceitabilidade.
Interpretabilidade
Capacidade de um modelo apresentar suas decisões de forma compreensível para os humanos, distinta da transparência que diz respeito à compreensão do mecanismo interno.
Explicações post-hoc
Métodos de explicação aplicados após o treinamento do modelo sem modificar sua arquitetura, permitindo explicar as previsões de modelos de caixa preta.
SHAP (SHapley Additive exPlanations)
Abordagem teórica baseada na teoria dos jogos para atribuir a importância de cada feature na previsão de um modelo de forma aditiva e coerente.
LIME (Local Interpretable Model-agnostic Explanations)
Técnica de explicação local que aproxima o comportamento de um modelo complexo por um modelo simples e interpretável na vizinhança de uma previsão específica.
Fatores de influência
Elementos específicos (itens, atributos, comportamentos passados) que contribuíram diretamente para a geração de uma recomendação particular em um sistema.
Contra-explicações
Explicações que justificam por que certos itens não foram recomendados, ajudando os usuários a entenderem os limites e os critérios de exclusão do sistema.
Justificativas causais
Explicações baseadas em relações de causa e efeito entre as ações do usuário e as recomendações geradas, em vez de simples correlações.
Abordagens baseadas em conhecimento
Métodos de recomendação que utilizam ontologias ou grafos de conhecimento para gerar explicações semanticamente ricas e contextualmente relevantes.
Visualizações de explicações
Representações gráficas interativas que transformam justificativas algorítmicas em elementos visuais intuitivos para facilitar a compreensão do usuário.
Personalização de explicações
Adaptação do conteúdo, estilo e nível de detalhe das explicações de acordo com o perfil, preferências e especialização de cada usuário.
Avaliações qualitativas de explicações
Métodos de avaliação baseados em estudos com usuários, entrevistas e análises de conteúdo para medir a relevância e utilidade percebida das explicações.
Feedback explicativo
Mecanismo que permite aos usuários reagir às explicações fornecidas, refinando assim as futuras recomendações e a qualidade das justificativas.
Complexidade explicativa
Medida da dificuldade cognitiva necessária para compreender uma explicação, avaliando o compromisso entre precisão técnica e acessibilidade ao usuário.
Transparência algorítmica
Princípio de revelar os mecanismos, dados e lógicas subjacentes de um sistema de recomendação para garantir sua rastreabilidade e auditabilidade.
Confiança algorítmica
Nível de credibilidade e confiabilidade percebido pelos usuários em relação a um sistema, influenciado diretamente pela qualidade e relevância das explicações fornecidas.
Explicações intrínsecas
Modelos projetados desde sua concepção para serem interpretáveis, integrando nativamente capacidades de explicação ao contrário das abordagens post-hoc.
Regras de associação explicativas
Conjuntos de regras lógicas (SE-ENTÃO) que justificam as recomendações mostrando as relações descobertas entre os comportamentos e os itens.
Viés explicativo
Distorções sistemáticas nas explicações geradas que podem super-representar certos fatores ou minimizar outros, afetando a percepção justa do sistema.