Glossário IA
O dicionário completo da Inteligência Artificial
Sistema Autônomo
Sistema de inteligência artificial capaz de operar e tomar decisões sem intervenção humana direta, utilizando seus próprios processos de raciocínio para atingir objetivos predefinidos.
Supervisão Humana
Mecanismo de controle onde um operador humano pode intervir, monitorar ou corrigir as ações de um sistema autônomo, com diferentes níveis de envolvimento, desde o monitoramento passivo até a intervenção direta.
Decisão Crítica
Escolha algorítmica com consequências significativas para a vida humana, segurança ou direitos fundamentais, exigindo uma avaliação ética aprofundada e mecanismos claros de responsabilidade.
Estrutura Ética
Estrutura formal que define os princípios, regras e procedimentos que guiam o design e a implantação de sistemas autônomos para garantir sua conformidade com os valores morais e sociais aceitos.
Princípio da Precaução
Abordagem ética que exige que os sistemas autônomos demonstrem um alto nível de segurança e confiabilidade antes de sua implantação, especialmente quando os riscos potenciais são graves ou irreversíveis.
Transparência Decisória
Capacidade de um sistema autônomo de explicar e justificar seus processos de decisão de forma compreensível para as partes interessadas, incluindo os critérios utilizados e o raciocínio subjacente.
Alinhamento de Valores
Processo que visa garantir que os objetivos e comportamentos de um sistema autônomo sejam consistentes com os valores humanos fundamentais e as intenções de seus criadores a longo prazo.
Agente Moral Artificial
Sistema de IA projetado para tomar decisões considerando aspectos éticos, capaz de raciocinar sobre dilemas morais e agir de acordo com princípios morais predefinidos.
Dilema Ético Algorítmico
Situação em que um sistema autônomo deve escolher entre várias opções, todas com implicações éticas negativas, exigindo mecanismos pré-programados de resolução de conflitos morais.
Verificação Ética
Processo sistemático de validação que atesta que um sistema autônomo respeita as restrições e princípios éticos especificados, incluindo testes formais e simulações de cenários críticos.
Auditabilidade Ética
Capacidade de um sistema autônomo ser examinado e avaliado por terceiros independentes para verificar sua conformidade com os padrões éticos e sua boa conduta decisória.
Autorregulação Ética
Mecanismo integrado que permite a um sistema autônomo ajustar seu comportamento em tempo real para manter sua conformidade com os princípios éticos diante de situações imprevistas.
Viés de Decisão Autônoma
Desvio sistemático nas decisões de um sistema autônomo resultante de seus aprendizados ou programação, podendo levar a discriminações ou tratamentos desiguais sem supervisão corretiva.
Hierarquia Ética
Estrutura de priorização dos princípios éticos em um sistema autônomo, definindo quais valores prevalecem em caso de conflito moral e como os dilemas complexos devem ser resolvidos.
Delegação Moral
Transferência de responsabilidade decisória de humanos para sistemas autônomos para ações com implicações morais, levantando questões de legitimidade e responsabilidade ética.
Consciência Artificial
Conceito teórico de sistema autônomo que possui uma forma de autoconsciência e de suas ações, permitindo uma reflexão ética intrínseca em vez de uma simples aplicação de regras.