Glossário IA
O dicionário completo da Inteligência Artificial
Teste de Impacto Disparado
Método estatístico que avalia se um algoritmo produz resultados desfavoráveis de forma desproporcional para certos grupos demográficos protegidos.
Análise de Paridade
Avaliação quantitativa que mede se as taxas de previsões positivas são equivalentes entre diferentes grupos demográficos nos resultados de um modelo de IA.
Métrica de Viés
Indicador quantitativo que mede o nível de discriminação ou inequidade presente nas previsões de um sistema de inteligência artificial.
Validação Cruzada Ética
Técnica de avaliação iterativa que testa a robustez de um modelo contra vieses em diferentes subconjuntos de dados representativos de populações diversas.
Mapeamento de Riscos de IA
Processo sistemático de identificação, avaliação e documentação de riscos éticos potenciais associados à implantação de um sistema de IA.
Transparência da Modelagem
Capacidade de tornar compreensíveis os mecanismos internos, os dados de treinamento e os processos de decisão de um algoritmo de inteligência artificial.
Explicabilidade do Modelo
Conjunto de técnicas que permitem interpretar e explicar as previsões individuais de um modelo de IA de forma compreensível para humanos.
Monitoramento Contínuo de Viés
Sistema de monitoramento permanente que detecta o surgimento ou amplificação de vieses em um modelo de IA implantado em produção.
Avaliação de Impacto Ético
Análise exaustiva das consequências potenciais de um sistema de IA nos direitos humanos, equidade e inclusão antes e durante sua implantação.
Governança Algorítmica
Estrutura organizacional que define responsabilidades, processos e controles para garantir o desenvolvimento e uso ético de sistemas de IA.
Certificação Ética de IA
Processo formal de validação que atesta que um sistema de inteligência artificial respeita as normas éticas e padrões de equidade estabelecidos.
Auditabilidade do Sistema
Capacidade de um sistema de IA ser examinado de forma aprofundada e independente para verificar sua conformidade com requisitos éticos e regulamentares.
Análise de Sensibilidade de Viés
Avaliação sistemática da variação do desempenho e dos vieses de um modelo diante de modificações nos dados de entrada ou hiperparâmetros.
Pontuação de Equidade
Indicador composto que quantifica o nível geral de equidade de um algoritmo agregando várias métricas de viés e discriminação.
Teste de Calibração
Verificação estatística que garante que as probabilidades previstas por um modelo correspondem às frequências reais observadas em diferentes subgrupos demográficos.