Słownik AI
Kompletny słownik sztucznej inteligencji
Wide Residual Networks (WRN)
Architecture augmentant la largeur (nombre de filtres) plutôt que la profondeur, démontrant que des réseaux plus larges mais moins profonds peuvent surpasser les ResNets très profonds.
Group Normalization
Alternative à la normalisation par batches, divisant les canaux en groupes et normalisant indépendamment, offrant une meilleure stabilitité pour les petits batch sizes.
Learning Rate Warmup
Stratégie d'optimisation augmentant progressivement le taux d'apprentissage au début de l'entraînement, stabilisant l'optimisation pour les architectures très profondes comme les ResNets.
Cosine Annealing
Planification du taux d'apprentissage suivant une courbe cosinus, permettant une meilleure exploration de l'espace des solutions et évitant les minima locaux suboptimaux.
Mixup Augmentation
Méthode de régularisation créant de nouveaux échantillons d'entraînement par interpolation linéaire entre paires d'images et leurs étiquettes, augmentant la robustesse du modèle.
CutMix Regularization
Variante de Mixup coupant et collant des patches entre images, combinant leurs étiquettes proportionnellement à l'aire, améliorant la localisation des objets et la robustesse.
ResNet with Attention
Intégration de mécanismes d'attention spatiale ou de canal dans les blocs résiduels pour améliorer la sélectivité des caractéristiques importantes.