Glossário IA
O dicionário completo da Inteligência Artificial
BFGS
Algoritmo de otimização quase-Newtoniano iterativo que aproxima a matriz Hessiana inversa para encontrar o mínimo de uma função sem restrições.
Aproximação Hessiana
Técnica que consiste em estimar a matriz das segundas derivadas de uma função sem cálculo direto, utilizando as informações de gradiente para construir uma aproximação iterativa.
Matriz Inversa Aproximada
Aproximação da inversa da matriz Hessiana construída progressivamente em métodos quase-Newton para determinar a direção de descida ótima.
Busca Linear
Processo iterativo que determina o comprimento do passo ótimo na direção de descida para minimizar a função objetivo a cada iteração.
Correção BFGS
Fórmula de atualização da aproximação Hessiana que preserva a simetria e a positividade definida da matriz, ao mesmo tempo que satisfaz a equação secante.
Memória Limitada
Estratégia no L-BFGS que consiste em reter apenas um número fixo de iterações anteriores para reconstruir a aproximação Hessiana, reduzindo a complexidade espacial.
Convergência Superlinear
Propriedade dos métodos BFGS onde a razão dos erros sucessivos tende a zero, oferecendo uma convergência mais rápida que a convergência linear, mas menos que a quadrática.
Equação Secante
Condição imposta nos métodos quase-Newton que garante que a aproximação Hessiana transforma corretamente a diferença de gradientes na diferença de pontos.
Fator de escala
Parâmetro inicial no L-BFGS que ajusta a aproximação hessiana inicial para melhorar a convergência em problemas mal condicionados.
Vetor de correção
Par de vetores (s, y) armazenados no L-BFGS onde s representa o deslocamento e y a diferença de gradiente, usados para reconstruir a aproximação hessiana.
Direção de descida
Vetor calculado multiplicando a aproximação hessiana inversa pelo gradiente negativo, indicando a direção ótima para minimizar a função.
Hessiana inicial
Matriz inicial em métodos quase-Newton, tipicamente uma matriz identidade multiplicada por um fator de escala, servindo de base para as iterações sucessivas.
Algoritmo de duas laçadas
Implementação eficiente do L-BFGS usando duas laçadas para calcular a direção de descida sem reconstruir explicitamente a matriz hessiana completa.