Glossario IA
Il dizionario completo dell'Intelligenza Artificiale
Normalizing Flow
Architecture de modèle génératif utilisant une séquence de transformations bijectives inversibles pour mapper une distribution simple vers une distribution complexe, permettant l'estimation exacte de la densité de probabilité et l'échantillonnage efficace.
Bijection
Fonction mathématique inversible où chaque élément de l'ensemble d'arrivée a exactement un antécédent dans l'ensemble de départ, propriété fondamentale des flows de normalisation garantissant la réversibilité des transformations.
Jacobien
Matrice des dérivées partielles d'une transformation vectorielle, dont le déterminant est essentiel dans les flows de normalisation pour calculer le changement de volume lors des transformations et maintenir la normalisation de la distribution.
RealNVP
Real-valued Non-Volume Preserving, architecture de flow de normalisation introduisant des couches de couplage avec des transformations affines masquées permettant un calcul efficace du déterminant jacobien et des transformations inversibles rapides.
Coupling Layer
Brique fondamentale des architectures RealNVP et Glow, divisant les dimensions en deux blocs où l'un est transformé par des fonctions paramétrées dépendant de l'autre bloc, préservant ainsi la bijectivité tout en permettant des transformations complexes.
Planar Flow
Type de transformation de flow utilisant des fonctions de la forme f(z) = z + u·h(wᵀz + b), où h est une fonction non-linéaire, créant des déformations planaires dans l'espace latent pour modéliser des distributions multi-modales.
Radial Flow
Architecture de flow appliquant des transformations radiales autour de points spécifiques dans l'espace, utilisant des fonctions de la forme f(z) = z + β/(α + ||z - z₀||)(z - z₀) pour créer des déformations locales ciblées.
Masked Autoregressive Flow (MAF)
Flow de normalisation combinant autorégression et masquage pour construire des transformations triangulaires, où chaque dimension dépend uniquement des dimensions précédentes, permettant une estimation de densité exacte mais un échantillonnage séquentiel.
Inverse Autoregressive Flow (IAF)
Variante de MAF inversant la direction de dépendance pour un échantillonnage parallèle efficace au prix d'une estimation de densité séquentielle, particulièrement adaptée aux modèles variationnels et aux applications génératives temps-réel.
Glow
Architecture de flow de normalisation générative introduisant l'invertible 1×1 convolution pour remplacer les permutations, combinée avec des couches de couplage améliorées et une normalisation actvation pour une modélisation d'image de haute qualité.
Invertible 1×1 Convolution
Opération de convolution avec noyau 1×1 paramétrée comme une matrice inversible, utilisée dans Glow pour effectuer des permutations apprenables entre canaux tout en préservant la bijectivité et en permettant un calcul efficace du jacobien.
Change of Variables Formula
Principe mathématique fondamental des flows de normalisation établissant la relation entre les densités de probabilité avant et après transformation via le déterminant du jacobien, permettant l'estimation exacte de la vraisemblance.
Neural Spline Flow
Architecture de flow utilisant des fonctions splines rationnelles quadratiques comme transformations élémentaires, offrant une expressivité élevée avec un calcul de jacobien analytique et une stabilité numérique améliorée.
Base Distribution
Distribution simple (typiquement gaussienne isotropique ou uniforme) dans l'espace latent servant de point de départ pour les transformations successives du flow, choisie pour sa facilité d'échantillonnage et de calcul de densité.
Exact Likelihood Computation
Avantage majeur des flows de normalisation permettant le calcul analytique exact de la log-vraisemblance des données, contrairement aux autres modèles génératifs qui nécessitent des approximations comme l'échantillonnage ou les bornes variationnelles.
Freivalds-Gaussian Flow
Architecture de flow utilisant des transformations basées sur des matrices de rotation et de mise à l'échelle structurées, garantissant la stabilité numérique et le calcul efficace du déterminant jacobien pour des dimensions élevées.
Triangular Transformation
Type de transformation jacobienne triangulaire utilisé dans les flows autorégressifs, où la structure triangulaire garantit la bijectivité et simplifie le calcul du déterminant comme le produit des éléments diagonaux.