Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Distillation de Knowledge
Technique où un grand modèle de diffusion (enseignant) entraîne un modèle plus petit et plus rapide (élève) à reproduire ses sorties, réduisant ainsi le coût computationnel de l'inférence.
Distillation Progressive (Progressive Distillation)
Méthode de distillation itérative où chaque modèle élève apprend d'un modèle enseignant légèrement plus rapide, permettant une accélération exponentielle du processus d'échantillonnage.
Planificateur (Scheduler)
Algorithme définissant la séquence des niveaux de bruit et les pas temporels pour le processus de débruitage, influençant directement la vitesse et la qualité de la génération.
Planificateur DDIM (Denoising Diffusion Implicit Models)
Planificateur déterministe qui permet de générer des échantillons avec beaucoup moins d'étapes qu'un planificateur standard, en modifiant la stochasticité du processus de débruitage.
Planificateur DPM-Solver
Solveur d'équations différentielles stochastiques de haut ordre conçu pour accélérer l'échantillonnage des modèles de diffusion, atteignant une haute qualité avec très peu d'étapes d'évaluation.
Échantillonnage à Pas Uniques (One-Step Sampling)
Objectif de la distillation où le modèle élève est entraîné pour générer une sortie propre à partir d'une entrée bruitée en une seule étape de débruitage.
Ré-échantillonnage Latent (Latent Resampling)
Stratégie d'accélération qui modifie la trajectoire de débruitage dans l'espace latent en ré-échantillonnant les états intermédiaires pour réduire le nombre total d'étapes nécessaires.
Consistency Models
Famille de modèles génératifs entraînés pour mapper n'importe quel point d'une trajectoire de bruit directement vers le point de départ de la trajectoire, permettant un échantillonnage en une seule étape ou très peu d'étapes.
Distillation par Trajectoire (Trajectory Distillation)
Variante de la distillation où le modèle élève apprend à imiter la trajectoire complète de débruitage du modèle enseignant sur plusieurs étapes, plutôt que de se concentrer sur une seule étape.
Planificateur LCMS (Linear Multistep Scheduler)
Planificateur basé sur des méthodes à pas multiples linéaires, optimisé pour une convergence rapide et stable avec un faible nombre d'étapes d'échantillonnage.
Accélération par Token Merging
Technique qui réduit la complexité computationnelle du débruiteur (souvent un U-Net Transformer) en fusionnant sémantiquement les tokens similaires à chaque étape de débruitage.
Débruitage Uniforme (Uniform Denoising)
Stratégie d'échantillonnage qui utilise des pas de temps uniformément espacés, souvent combinée à des solveurs avancés pour maximiser l'efficacité avec un nombre réduit d'étapes.
Distillation Adversariale
Approche où un réseau discriminateur est utilisé pour aider le modèle élève à apprendre les caractéristiques de distribution du modèle enseignant, améliorant la fidélité de la génération rapide.
Planificateur Karras
Planificateur de bruit qui définit une variance du bruit plus lisse et continue, souvent utilisé pour améliorer la stabilité et la qualité de l'échantillonnage à faible nombre de pas.
Échantillonnage Stochastique Accéléré
Méthodes qui conservent une composante stochastique dans le processus de débruitage tout en utilisant des planificateurs ou des solveurs avancés pour réduire le nombre d'étapes, équilibrant diversité et vitesse.