Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Hyperparameter Optimization
Processus automatisé de recherche des meilleurs hyperparamètres pour un modèle d'apprentissage en utilisant des techniques comme l'optimisation bayésienne, la recherche aléatoire ou le meta-learning.
Configuration Space
Ensemble structuré de toutes les combinaisons possibles d'hyperparamètres pour un algorithme d'apprentissage, incluant les contraintes, les dépendances et les domaines de valeurs valides.
Surrogate Model
Modèle approximatif utilisé dans l'optimisation bayésienne pour estimer la fonction de performance coûteuse à évaluer, permettant d'explorer efficacement l'espace des hyperparamètres.
Warm-Starting
Technique d'initialisation de l'optimisation des hyperparamètres en utilisant des connaissances provenant de tâches similaires ou d'optimisations précédentes pour accélérer la convergence.
Base-Learner
Modèle d'apprentissage automatique dont les hyperparamètres sont optimisés par le système de meta-learning, servant de cible pour les recommandations de configuration.
Performance-Based Meta-Learning
Approche qui utilise les performances historiques des configurations sur différentes tâches pour apprendre à prédire les meilleures configurations pour de nouvelles tâches similaires.
Multi-Fidelity Optimization
Stratégie d'optimisation qui utilise des approximations bas-coût (faible fidélité) pour évaluer rapidement les configurations avant de valider les plus prometteuses avec des évaluations haute-fidélité.
Meta-Dataset
Collection structurée de métadonnées sur de multiples tâches d'apprentissage, incluant les caractéristiques des jeux de données et les performances des configurations d'hyperparamètres.
Few-Shot Hyperparameter Optimization
Approche de meta-learning qui permet d'optimiser les hyperparamètres avec très peu d'évaluations sur la tâche cible en transférant les connaissances d'un grand nombre de tâches sources.
Acquisition Function
Fonction utilisée dans l'optimisation bayésienne guidée par meta-learning pour équilibrer l'exploration et l'exploitation en sélectionnant les configurations d'hyperparamètres à évaluer.