Glosario IA
El diccionario completo de la Inteligencia Artificial
Stratégie de recherche
Méthode algorithmique utilisée pour explorer l'espace de recherche en NAS, pouvant être basée sur le renforcement, l'évolution, les gradients ou d'autres approches d'optimisation pour identifier efficacement les architectures performantes.
Estimation de performance
Technique d'évaluation rapide des performances des architectures candidates sans entraînement complet, utilisant des proxies comme l'entraînement partiel, les poids partagés ou des modèles de prédiction pour accélérer le processus NAS.
Cellules de recherche
Modules structurels répétables découverts par NAS qui définissent les motifs de connexion et les opérations fondamentales, assemblés ensuite pour former l'architecture complète du réseau neuronal final.
Architecture partagée (Weight Sharing)
Technique d'optimisation NAS où les poids sont partagés entre différentes architectures candidates, permettant d'évaluer plusieurs configurations sans entraîner chaque modèle depuis zéro, réduisant ainsi drastiquement les coûts computationnels.
Hyperparamètres d'architecture
Paramètres structurels définissant la topologie du réseau neuronal incluant le nombre de couches, leur type, les dimensions, les fonctions d'activation et les schémas de connexion, optimisés automatiquement par NAS.
NAS-Bench
Suite de bancs d'essai standardisés pour évaluer les algorithmes NAS, fournissant des espaces de recherche définis et des performances pré-calculées pour permettre des comparaisons reproductibles et justes entre différentes méthodes NAS.
Search Controller
Composent central dans les systèmes NAS basés sur apprentissage par renforcement, prenant des décisions séquentielles sur la construction d'architecture et apprenant à partir des retours de performance pour améliorer ses choix futurs.
Architecture Performance Prediction
Modèle d'apprentissage automatique entraîné à prédire les performances d'une architecture sans l'entraîner, accélérant considérablement le processus NAS en filtrant rapidement les candidats peu prometteurs.
ProxylessNAS
Méthode NAS éliminant le compromis entre la vitesse de recherche et la performance finale en optimisant directement l'architecture sur le matériel cible sans utiliser de tâches proxy ou de réductions de complexité.
Efficient Neural Architecture Search (ENAS)
Approche NAS pionnière introduisant le partage de poids entre modèles enfants pour accélérer la recherche, réduisant les coûts computationnels de plusieurs ordres de grandeur tout en maintenant des performances compétitives.