Glossário IA
O dicionário completo da Inteligência Artificial
BOHB (Otimização Bayesiana HyperBand)
Algoritmo híbrido que combina otimização bayesiana para modelagem probabilística e HyperBand para alocação adaptativa de recursos, permitindo uma busca eficiente de hiperparâmetros.
Modelo Substituto
Modelo probabilístico (tipicamente GP ou TPE) que aproxima a função objetivo cara de avaliar para guiar a busca de hiperparâmetros.
Função de Aquisição
Função que equilibra exploração e explotação para determinar as próximas configurações de hiperparâmetros a serem avaliadas.
TPE (Estimador de Parzen Estruturado em Árvore)
Modelo substituto não paramétrico que utiliza estimadores de densidade de kernel para modelar as distribuições dos hiperparâmetros.
Orçamento Computacional
Recurso limitado (tempo, épocas, dados) alocado para a avaliação das configurações de hiperparâmetros no BOHB.
Alocação Baseada em Bandidos
Estratégia de alocação de recursos inspirada nos bandidos de um braço para otimizar o compromisso exploração-explotação.
Importância do Hiperparâmetro
Medida do impacto de cada hiperparâmetro no desempenho do modelo, utilizada para priorizar a busca no BOHB.
Avaliação Paralela
Capacidade de avaliar simultaneamente várias configurações de hiperparâmetros para acelerar a otimização no BOHB.
Amostragem de Thompson
Método de seleção que amostra configurações de acordo com sua probabilidade de serem ótimas segundo o modelo de substituição.
Configuração de Bracket
Configuração específica do HyperBand que define o número de configurações e a evolução do orçamento para um dado bracket.