Glossário IA
O dicionário completo da Inteligência Artificial
Discriminação sistêmica
Forma de discriminação integrada nas estruturas e processos sistêmicos, onde os algoritmos reproduzem e amplificam as desigualdades existentes de forma automática e em larga escala. Manifesta-se por decisões persistentemente desfavoráveis a grupos específicos.
Igualdade de odds
Critério de equidade que exige que as taxas de verdadeiros positivos e falsos positivos sejam iguais entre diferentes grupos demográficos. Esta abordagem mais estrita que a igualdade de oportunidades garante uma performance preditiva equivalente entre grupos.
Impacto dispar
Conceito legal e ético que identifica quando uma política ou prática aparentemente neutra tem efeitos desproporcionais e negativos sobre grupos protegidos. Em IA, aplica-se quando os algoritmos produzem resultados injustos mesmo sem intenção discriminatória.
Viés de representação
Sub-representação ou super-representação sistemática de certos grupos nos conjuntos de dados, levando a modelos menos performantes para grupos sub-representados. Este viés afeta diretamente a qualidade e a equidade das previsões.
Justiça contrafactual
Abordagem de equidade baseada na comparação de resultados para um indivíduo com e sem uma característica protegida, mantendo todas as outras condições iguais. Visa garantir que as decisões não mudem apenas devido a atributos sensíveis.