Glossário IA
O dicionário completo da Inteligência Artificial
XGBoost
Implementação otimizada de gradient boosting que utiliza técnicas avançadas de regularização, processamento paralelo e otimização de memória para melhorar o desempenho e a velocidade de treinamento.
AdaBoost
Método adaptativo de boosting que ajusta dinamicamente os pesos das observações de treinamento, concentrando-se nos exemplos difíceis ao longo de iterações sucessivas de modelos fracos.
Weak Learner
Modelo preditivo simples (geralmente uma árvore de decisão rasa) cujo desempenho é ligeiramente superior ao acaso, utilizado como bloco fundamental em métodos de boosting.
Loss Function
Função matemática que quantifica o erro entre as previsões do modelo e os valores reais, orientando a otimização iterativa em algoritmos de gradient boosting.
Gradient Descent
Algoritmo iterativo de otimização que ajusta os parâmetros do modelo na direção oposta ao gradiente da função de perda para minimizar o erro global.
Residual Learning
Técnica em que cada modelo subsequente aprende a prever os resíduos (erros) do modelo anterior, permitindo uma aproximação progressiva e precisa da função-alvo.
Subsampling
Técnica de amostragem aleatória dos dados de treinamento em cada iteração, introduzindo estocasticidade e reduzindo a correlação entre árvores para melhor generalização.
Regularization
Conjunto de técnicas (L1, L2, poda) que penalizam a complexidade do modelo para controlar o overfitting e melhorar sua capacidade de generalização.
Tree Pruning
Processus de poda das ramificações da árvore de decisão após sua construção completa, eliminando subdivisões não informativas para reduzir a complexidade e melhorar a generalização.
Histogram-based Algorithm
Otimização que discretiza as características contínuas em histogramas antes da construção das árvores, acelerando consideravelmente a busca pelos melhores pontos de divisão.
Leaf-wise Growth
Estratégia de construção de árvores que divide a folha apresentando a maior redução de perda, ao invés de expandir todas as folhas na mesma profundidade.