Glossário IA
O dicionário completo da Inteligência Artificial
Otimização Bayesiana
Método probabilístico que utiliza processos gaussianos para modelar a função objetivo e guiar eficientemente a busca de hiperparâmetros.
Hyperband e Successive Halving
Abordagens de alocação dinâmica de recursos que eliminam precocemente configurações ruins para otimizar o uso do orçamento de computação.
Otimização Multiobjetivo
Técnicas avançadas para otimizar simultaneamente várias métricas de desempenho conflitantes (ex: precisão vs tempo de inferência).
BOHB (Otimização Bayesiana HyperBand)
Combinação híbrida de otimização bayesiana e Hyperband para uma busca eficiente com alocação adaptativa de recursos.
Pesquisa de Arquitetura Neural (NAS)
Otimização automática da estrutura das redes neurais (profundidade, largura, conexões) além dos hiperparâmetros clássicos.
Meta-Aprendizagem para Hiperparâmetros
Abordagem que aprende a partir de otimizações anteriores para inicializar inteligentemente a pesquisa em novas tarefas.
Otimização por Algoritmos Evolucionários
Métodos inspirados na evolução natural utilizando mutação, cruzamento e seleção para explorar o espaço dos hiperparâmetros.
Treinamento Baseado em População (PBT)
Técnica evolutiva competitiva que aproveita e explora simultaneamente, adaptando os hiperparâmetros durante o treinamento.
Otimização com Restrições
Métodos avançados que gerenciam restrições em hiperparâmetros (limites, dependências, restrições de recursos).
Otimização Paralela e Distribuída
Estratégias de paralelização para acelerar a otimização distribuindo as avaliações em múltiplos recursos computacionais.
Otimização por Gradiente de Hiperparâmetros
Abordagem diferenciável que permite otimizar certos hiperparâmetros por descida de gradiente em vez de pesquisa discreta.
Auto-Sklearn e Frameworks AutoML
Sistemas completos que automatizam a otimização de hiperparâmetros, a seleção de modelos e o pré-processamento de dados.