Glossário IA
O dicionário completo da Inteligência Artificial
Learning Rate (Taxa de Aprendizagem)
Hiperparâmetro que controla a contribuição de cada estimador para o modelo final, permitindo um compromisso entre a velocidade de convergência e a precisão do modelo.
Max Depth (Profundidade Máxima)
Hiperparâmetro que define a profundidade máxima de cada árvore de decisão, controlando a complexidade do modelo e o risco de overfitting (sobreajuste).
Split Finding (Busca de Divisão)
Processo algorítmico para encontrar o melhor ponto de divisão em um nó de árvore, otimizado no XGBoost através de uma estrutura de dados chamada histograma.
Tree Pruning (Poda de Árvore)
Técnica de pós-poda baseada na pontuação de ganho, que remove ramos de árvore que não trazem um ganho de perda positivo para simplificar o modelo.
Early Stopping (Parada Antecipada)
Técnica de regularização que interrompe o treinamento quando o desempenho em um conjunto de validação para de melhorar, evitando o overfitting (sobreajuste).
Gamma (min_split_loss)
Hiperparâmetro de regularização que especifica a perda mínima necessária para realizar uma nova divisão em um nó de árvore, controlando a complexidade.
Lambda (regularização L2 nos pesos)
Hiperparâmetro de regularização L2 aplicado aos pesos das folhas das árvores, reduzindo sua magnitude para prevenir o overfitting (sobreajuste).
Alpha (regularização L1 nos pesos)
Hiperparâmetro de regularização L1 aplicado aos pesos das folhas das árvores, promovendo a parcimônia e podendo zerar alguns pesos.
Scale-Pos-Weight
Hiperparâmetro usado para problemas de classificação desequilibrada, ponderando a classe positiva em relação à classe negativa.
Paralelização
Capacidade do XGBoost de paralelizar a construção de árvores em múltiplos núcleos de CPU, acelerando significativamente o tempo de treinamento.
Acesso Otimizado para Cache
Otimização algorítmica no XGBoost que organiza os acessos à memória para maximizar o uso do cache do processador, melhorando o desempenho.