Glossário IA
O dicionário completo da Inteligência Artificial
Equidade Algorítmica
Princípio fundamental que visa garantir que os sistemas de inteligência artificial produzam resultados justos e não discriminatórios para todos os indivíduos ou grupos, independentemente de suas características protegidas.
Viés Algorítmico
Distorção sistemática nas previsões ou decisões de um algoritmo que favorece ou prejudica certos grupos de forma injusta, muitas vezes resultando de dados de treinamento tendenciosos ou concepção inadequada.
Paridade Demográfica
Critério de equidade que exige que a proporção de resultados positivos seja idêntica entre diferentes grupos demográficos, independentemente das características individuais reais.
Igualdade de Oportunidades
Princípio de equidade que garante que as taxas de verdadeiros positivos e falsos positivos sejam iguais entre diferentes grupos, garantindo desempenhos de previsão semelhantes para todas as populações.
Equidade de Calibração
Medida de equidade que exige que, para cada pontuação de previsão dada, a probabilidade real do resultado seja a mesma para todos os grupos demográficos em questão.
Equidade Contrafactual
Abordagem de equidade que avalia se uma previsão permaneceria inalterada se as características protegidas de um indivíduo fossem diferentes, mantendo os outros atributos constantes.
Equidade Individual
Princípio que estipula que indivíduos semelhantes devem receber tratamentos ou previsões semelhantes pelo sistema de IA, garantindo consistência no nível individual.
Equidade de Grupo
Medida de equidade que avalia se diferentes grupos demográficos recebem resultados estatisticamente semelhantes do sistema de IA, sem considerar as características individuais específicas.
Impacto Desproporcional
Efeito negativo ou positivo desigual de um algoritmo em diferentes grupos demográficos, medido pela diferença estatística entre as taxas de resultados para cada grupo.
Justiça Distributiva
Conceito filosófico aplicado à IA garantindo uma distribuição equitativa de recursos, oportunidades ou benefícios gerados pelos sistemas algorítmicos entre todos os grupos envolvidos.
Equidade Processual
Princípio que garante que os processos de tomada de decisão algorítmica são transparentes, consistentes e permitem recursos, independentemente dos resultados produzidos.
Equidade de Previsão
Critério que garante que a proporção de previsões corretas é a mesma para todos os grupos, garantindo uma confiabilidade justa das previsões através de diferentes populações.
Privilégio Algorítmico
Vantagem sistemática concedida por um algoritmo a certos grupos ou indivíduos, resultando de vieses implícitos no design ou treinamento do modelo.
Tratamento Justo
Princípio fundamental que exige que os sistemas de IA tratem todas as pessoas de forma imparcial e consistente, sem discriminação baseada em características protegidas ou sensíveis.
Equidade por Conscientização
Metodologia que integra explicitamente o conhecimento de vieses potenciais e características protegidas no design e avaliação de modelos para garantir resultados justos.
Discriminação Algorítmica
Tratamento diferenciado e injusto de certos grupos por um sistema de IA, resultante de decisões algorítmicas que criam ou perpetuam desigualdades sistêmicas.
Equidade Longitudinal
Princípio que garante que a equidade de um sistema de IA se mantém ao longo do tempo, evitando o surgimento de novos vieses ou a amplificação das desigualdades existentes com a evolução do modelo.