Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Reinforcement Learning Controller
Agent d'apprentissage par renforcement qui génère des architectures de réseaux de neurones en séquence, optimisant ses décisions basées sur les récompenses obtenues des performances des architectures évaluées.
Monte Carlo Tree Search for NAS
Algorithme d'exploration qui utilise des simulations aléatoires pour évaluer et sélectionner les architectures prometteuses dans l'espace de recherche des réseaux de neurones.
RNN Controller
Réseau neuronal récurrent utilisé comme contrôleur dans NAS par renforcement, générant séquentiellement des descriptions d'architecture sous forme de tokens ou d'actions.
Search Space Pruning
Technique de réduction de l'espace de recherche en éliminant les architectures sous-optimales basées sur des heuristiques ou des évaluations préliminaires pour accélérer le processus NAS.
Meta-Learning for NAS
Approche où le système apprend à apprendre à concevoir des architectures, transférant les connaissances des tâches précédentes pour accélérer la recherche sur de nouvelles tâches.
Weight Sharing Strategy
Technique où les poids des architectures sont partagés pendant l'entraînement, permettant l'évaluation rapide de multiples architectures sans réinitialiser les paramètres.
Reward Function Design
Définition mathématique de la récompense dans NAS par renforcement, combinant typically la précision du modèle, la complexité computationnelle et d'autres contraintes.
Latency-aware NAS
Variante de NAS qui optimise explicitement les architectures pour minimiser la latence d'inférence en plus de la précision, crucial pour les applications en temps réel.
Architecture Regularization
Application de techniques de régularisation directement sur l'espace des architectures pour éviter le surajustement et favoriser des solutions généralisables.
Early Stopping in NAS
Mécanisme d'arrêt prématuré de l'évaluation d'architectures prometteuses basé sur des indicateurs précoces de performance pour optimiser le budget computationnel.
Neural Tangent Kernel Analysis
Outil théorique utilisé dans NAS pour analyser les propriétés de convergence et d'expressivité des architectures candidates avant leur entraînement complet.