Glossário IA
O dicionário completo da Inteligência Artificial
Interface de Explicação Interativa
Sistema gráfico que permite aos usuários navegar e manipular dinamicamente as explicações das previsões de um modelo de IA. Facilita a exploração personalizada das decisões algorítmicas através de visualizações adaptativas.
Dashboard de Interpretabilidade
Painel de controle integrado que apresenta de forma consolidada as métricas de interpretabilidade global e local de um modelo de machine learning. Combina gráficos, filtros e controles interativos para uma análise multidimensional dos comportamentos algorítmicos.
Visualização SHAP Interativa
Interface dinâmica que permite a exploração dos valores SHAP (SHapley Additive exPlanations) para entender o impacto de cada característica nas previsões. Oferece manipulações em tempo real para analisar as contribuições das variáveis sob diferentes perspectivas.
Ferramenta de Análise What-if
Interface interativa que permite aos usuários modificar os valores de entrada e observar instantaneamente o impacto nas previsões do modelo. Facilita a exploração de cenários hipotéticos e a compreensão das relações de causalidade nas decisões algorítmicas.
Navegador de Contra-exemplos
Ferramenta de exploração visual que permite identificar e analisar as instâncias onde o modelo erra ou fornece resultados inesperados. Ajuda a compreender os limites do modelo e a identificar padrões de dados problemáticos.
Interface LIME Explorer
Sistema interativo para a exploração das explicações LIME (Local Interpretable Model-agnostic Explanations) ao nível individual das previsões. Permite visualizar como o modelo interpreta localmente cada decisão e ajustar os parâmetros de explicação.
Painel de Equidade Algorítmica
Interface especializada que monitora e visualiza potenciais vieses nas previsões do modelo de acordo com diferentes grupos demográficos. Propõe ferramentas de análise comparativa e alertas sobre disparidades de tratamento detectadas.
Sistema de Interrogação de Modelo
Interface conversacional ou baseada em consultas que permite interrogar diretamente o modelo sobre suas decisões e lógicas internas. Traduz as perguntas em linguagem natural em análises técnicas compreensíveis sobre o comportamento do modelo.
Interface de Depuração de Modelo
Ferramenta interativa avançada que permite aos desenvolvedores rastrear e analisar decisões errôneas ou surpreendentes do modelo. Combina visualização de dados intermediários e análise de pontos de inflexão no processo de decisão.
Visualizador de Caminhos de Decisão
Interface gráfica que mostra o percurso completo de um dado através das camadas ou etapas do modelo até a previsão final. Permite identificar nós críticos e transformações sucessivas que influenciam a decisão.
Tabela de Comparação de Modelos
Interface interativa que compara simultaneamente as explicações e o desempenho de vários modelos sobre os mesmos dados. Facilita a avaliação comparativa da interpretabilidade e dos comportamentos decisórios entre algoritmos.
Analisador de Sensibilidade Interativo
Ferramenta que permite manipular visualmente o impacto de cada variável nas previsões do modelo através de controles deslizantes e gráficos dinâmicos. Revela os limiares críticos e as não-linearidades nas relações entrada-saída.
Explorador de Instâncias Semelhantes
Interface que identifica e visualiza os casos de treinamento mais influentes para uma dada previsão. Ajuda a entender em quais experiências passadas o modelo baseia suas decisões atuais.
Interface de Âncoras Interativas
Sistema de visualização de explicações por âncoras (Anchors) que mostra as condições suficientes para que uma previsão permaneça estável. Permite explorar interativamente as regras 'se-então' que garantem a robustez das decisões.
Painel de Controle de Explicações Locais
Interface especializada na análise detalhada das decisões individuais do modelo com ferramentas de zoom e filtragem. Combina múltiplas visualizações (importância de características, contra-exemplos, similaridades) para uma compreensão local completa.