Glossário IA
O dicionário completo da Inteligência Artificial
Igualdade de Probabilidades
Métrica de equidade que exige que as probabilidades de previsão positiva sejam independentes do grupo demográfico, condicionalmente ao resultado verdadeiro.
Análise Contrafactual
Técnica de interpretabilidade que avalia como a previsão de um modelo mudaria se certas características de um indivíduo, incluindo sua pertença a um grupo, fossem modificadas.
Paridade Preditiva
Critério de equidade segundo o qual o valor preditivo positivo deve ser o mesmo para todos os grupos, garantindo que as previsões positivas tenham uma fiabilidade uniforme.
Debiasing Adversarial
Método de mitigação de vieses utilizando uma rede neural adversária para aprender representações de dados invariantes em relação ao atributo sensível.
Calibração por Grupo
Processo de ajuste das pontuações de probabilidade de um modelo para garantir que as previsões estejam bem calibradas dentro de cada subgrupo demográfico.
SHAP para Equidade
Aplicação dos valores SHAP (SHapley Additive exPlanations) para quantificar e visualizar como as características sensíveis contribuem para as previsões discriminatórias de um modelo.
Função de Perda Equitativa
Modificação da função objetivo de um algoritmo de aprendizagem para integrar penalidades ou restrições que incentivem o respeito a certas métricas de equidade.
Proxy de Atributo Sensível
Variável não sensível que é fortemente correlacionada com um atributo protegido (ex: código postal para etnia), podendo ser utilizada pelo modelo para perpetuar uma discriminação indireta.
Tratamento Disparate
Forma de viés onde as taxas de erro de classificação (falsos positivos, falsos negativos) diferem significativamente entre grupos demográficos.
Ponderação
Técnica de pré-processamento que ajusta o peso de cada exemplo de treinamento para equilibrar a distribuição de grupos e resultados, reduzindo assim o viés do modelo.
Independência Mútua
Critério de equidade formal que exige que a previsão do modelo seja estatisticamente independente do atributo sensível, mensurável pela informação mútua.