Glossário IA
O dicionário completo da Inteligência Artificial
Ganho de Informação
Métrica quantitativa que mede a redução de entropia obtida ao particionar um conjunto de dados de acordo com um atributo específico, utilizada pelo ID3 para selecionar o atributo de divisão ótimo em cada nó da árvore.
Entropia de Shannon
Medida matemática da incerteza ou desordem em um conjunto de dados, calculada como a soma negativa das probabilidades multiplicadas pelo seu logaritmo binário, servindo de base para o cálculo do ganho de informação no ID3.
Atributo de Divisão
Variável selecionada em um dado nó para particionar o conjunto de dados em subconjuntos mais homogêneos, escolhida pelo ID3 com base no ganho de informação máximo entre todos os atributos disponíveis.
Nó Folha
Nó terminal da árvore de decisão ID3 que não contém subdivisões adicionais, representando uma decisão final ou uma classificação baseada na classe majoritária das amostras contidas neste nó.
Razão de Ganho de Informação
Variante do ganho de informação normalizada pela entropia intrínseca do atributo, introduzida para corrigir o viés do ID3 em relação a atributos com muitas valores possíveis.
Conjunto de Treinamento
Subconjunto de dados utilizado pelo ID3 para construir a árvore de decisão, contendo exemplos rotulados que permitem ao algoritmo aprender as relações entre atributos e classes-alvo.
Previsão de Classe
Processo de classificação no ID3 onde uma nova amostra percorre a árvore da raiz até uma folha, sendo a classe prevista aquela associada ao nó folha alcançado de acordo com os testes de atributos sucessivos.
Profundidade da Árvore
Número máximo de ramificações percorridas da raiz a qualquer folha na árvore ID3, influenciando diretamente a complexidade do modelo e sua capacidade de capturar padrões nos dados.
Critério de Pureza
Medida de homogeneidade das classes em um nó, onde um nó perfeitamente puro contém amostras de uma única classe, servindo como base para a avaliação da qualidade das partições no ID3.
Variáveis Explicativas
Conjunto de atributos utilizados pelo ID3 para construir a árvore de decisão, cada um sendo avaliado pelo seu potencial de divisão com base na sua capacidade de reduzir a incerteza em relação à variável alvo.