Glossário IA
O dicionário completo da Inteligência Artificial
Estabilidade das explicações
Propriedade que mede a consistência das explicações geradas por um modelo quando as entradas sofrem pequenas variações, garantindo a fiabilidade das interpretações face ao ruído.
Sensibilidade a perturbações
Capacidade de um método explicativo manter resultados consistentes quando os dados de entrada são modificados por perturbações aleatórias ou estruturadas.
Ataques adversariais às explicações
Técnicas maliciosas concebidas para manipular ou degradar a qualidade das explicações sem necessariamente afetar o desempenho preditivo do modelo subjacente.
Coerência das explicações
Medida qualitativa que avalia se as explicações geradas são logicamente compatíveis entre si e com o conhecimento do domínio, assegurando uma interpretação consistente.
Fidelidade das explicações
Grau de precisão com que uma explicação aproxima o comportamento real do modelo local ou globalmente, quantificando a confiança na interpretação fornecida.
Robustez dos modelos explicativos
Capacidade intrínseca dos sistemas explicativos de resistir a variações nos dados de entrada e a tentativas de manipulação, mantendo interpretações válidas e fiáveis.
Variância das explicações
Medida estatística que quantifica a dispersão das explicações geradas para entradas semelhantes, indicando a estabilidade e a previsibilidade do sistema explicativo.
Continuidade das explicações
Propriedade que garante que pequenas modificações no espaço de entrada resultam em mudanças proporcionais e progressivas nas explicações produzidas.
Invariância das explicações
Característica de um método explicativo de produzir resultados constantes diante de transformações que preservam a semântica, como rotações ou mudanças de escala.
Validação cruzada das explicações
Metodologia sistemática para avaliar a coerência e a robustez das explicações através de diferentes subconjuntos de dados e configurações de modelo.
Avaliação da robustez explicativa
Conjunto de métricas e protocolos padronizados para quantificar sistematicamente a resistência das explicações a perturbações e ataques adversariais.
Perturbações semânticas
Modificações intencionais dos dados de entrada que preservam o sentido global, mas alteram as características superficiais, utilizadas para testar a robustez das explicações.
Ataques por transferência explicativa
Estratégias adversariais que exploram a similaridade entre diferentes modelos ou arquiteturas para comprometer simultaneamente seus respectivos sistemas explicativos.
Calibração das explicações
Processo de ajuste sistemático dos scores ou pesos explicativos para garantir uma correspondência confiável entre a importância percebida e o impacto real nas previsões.
Consistência temporal das explicações
Propriedade que mede a estabilidade das explicações em dados temporais ou sequenciais, garantindo uma interpretação coerente através de diferentes janelas temporais.
Agregação de múltiplas explicações
Técnica que combina várias explicações individuais para produzir uma interpretação mais robusta e estável, reduzindo o impacto de variações aleatórias ou enviesadas.
Sensibilidade aos hiperparâmetros
Medida da dependência das explicações geradas em relação às escolhas de hiperparâmetros, avaliando a robustez do sistema explicativo face à sua própria configuração.
Isotropia das explicações
Propriedade que garante que as explicações apresentem uma distribuição uniforme e não enviesada no espaço das características, evitando distorções direcionais sistemáticas.
Decomposição da incerteza explicativa
Método analítico que separa as fontes de incerteza nas explicações (epistêmica, aleatória, modelo) para quantificar e melhorar a fiabilidade interpretativa.