Glossário IA
O dicionário completo da Inteligência Artificial
Descida de Gradiente Funcional
Técnica de otimização que ajusta os parâmetros do modelo na direção oposta ao gradiente da função de perda no espaço das funções.
Gradient Boosting Machines (GBM)
Classe de algoritmos que implementam o método de gradient boosting com várias funções de perda e weak learners.
Bagging vs Boosting
Distinção fundamental onde o bagging treina modelos independentemente em paralelo, enquanto o boosting os constrói sequencialmente, corrigindo erros.
Gradiente da função de perda
Derivada parcial da função de perda em relação às previsões, indicando a direção da maior melhoria possível.
Regularização em GBM
Conjunto de técnicas (L1/L2, restrições de árvore, shrinkage) que controlam a complexidade do modelo para prevenir o sobreajuste.
Método de Newton em GBM
Variante do gradient boosting que utiliza a matriz Hessiana (segunda derivada) para atualizações mais ótimas dos parâmetros.