Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Successive Halving
Méthode d'élimination progressive qui divise par deux le nombre de configurations à chaque itération en allouant plus de ressources aux meilleures performances identifiées.
Allocation dynamique des ressources
Stratégie adaptative qui distribue le budget computationnel en fonction des performances observées des configurations hyperparamétriques pendant l'optimisation.
Budget de calcul
Ressource computationnelle totale disponible définie en termes d'itérations, époques d'entraînement ou temps processeur alloué à l'optimisation hyperparamétrique.
Élimination précoce
Mécanisme qui arrête prématurément l'évaluation des configurations sous-performantes pour économiser les ressources computationnelles.
ASHA
Asynchronous Successive Halving Algorithm implémente Successive Halving de manière asynchrone pour maximiser l'utilisation des ressources sur architectures parallèles.
Optimisation multi-fidélité
Approche utilisant des approximations de moins bonne qualité mais plus rapides pour évaluer rapidement les configurations avant leur évaluation complète.
Configuration hyperparamétrique
Ensemble spécifique de valeurs attribuées aux hyperparamètres d'un modèle d'apprentissage automatique définissant une configuration unique à évaluer.
Bracket elimination
Processus d'élimination par paliers dans Hyperband où plusieurs brackets avec différentes allocations initiales de ressources sont exécutés en parallèle.
Resource allocation strategy
Politique déterminant la distribution du budget computationnel entre les configurations hyperparamétriques pendant le processus d'optimisation.
Hyperparameter space exploration
Processus systématique de recherche dans l'espace des hyperparamètres pour identifier les configurations optimales selon des métriques de performance définies.
Performance-based pruning
Technique d'élagage des configurations basée sur leurs performances relatives par rapport à un seuil ou aux meilleures configurations observées.
Computational efficiency
Mesure de l'efficacité avec laquelle l'algorithme d'optimisation utilise les ressources disponibles pour trouver des configurations performantes.
Configuration fidelity
Niveau de précision ou de qualité utilisé pour évaluer une configuration hyperparamétrique, progressivement augmenté pour les meilleures configurations.
Adaptive resource allocation
Mécanisme qui ajuste dynamiquement la distribution des ressources en fonction des tendances de performance observées durant l'optimisation.