KI-Glossar
Das vollständige Wörterbuch der Künstlichen Intelligenz
Entity Embedding
Technique de représentation vectorielle qui transforme des variables catégorielles en vecteurs denses de faible dimension, capturant leurs relations sémantiques et leurs similarités au sein d'un espace continu.
Categorical Feature Encoding
Processus de conversion des variables catégorielles en format numérique adapté aux modèles de machine learning, incluant des méthodes comme one-hot, label encoding et entity embeddings.
Embedding Dimension
Taille du vecteur représentant chaque entité catégorielle, un hyperparamètre crucial qui équilibre la capacité d'expression du modèle et le risque de surapprentissage.
Learned Representation
Représentation vectorielle des données acquise automatiquement par le modèle pendant l'entraînement, optimisée pour la tâche spécifique sans intervention manuelle d'ingénierie de caractéristiques.
Embedding Matrix
Matrice de poids contenant tous les vecteurs d'embedding pour une variable catégorielle donnée, où chaque ligne correspond à la représentation vectorielle d'une catégorie.
High-Cardinality Features
Variables catégorielles avec un grand nombre de valeurs uniques, où les entity embeddings surpassent significativement les méthodes d'encodage traditionnelles comme one-hot.
Embedding Initialization
Stratégie d'initialisation des poids de la couche d'embedding, influençant la vitesse de convergence et la qualité finale des représentations apprises par le modèle.
Embedding Regularization
Techniques comme L2 ou dropout appliquées spécifiquement aux couches d'embedding pour prévenir le surapprentissage et améliorer la généralisation des représentations vectorielles.
Embedding Visualization
Techniques comme t-SNE ou UMAP pour projeter les espaces d'embedding haute dimension en 2D/3D, permettant l'analyse visuelle des relations et clusters entre catégories.
Cross-Entity Embeddings
Approche avancée où des entités de différentes variables catégorielles partagent un espace d'embedding commun, capturant des relations inter-catégorielles complexes.
Embedding Transfer Learning
Réutilisation d'entity embeddings pré-entraînés sur une tâche source pour améliorer les performances sur une tâche cible similaire avec moins de données d'entraînement.
Embedding Space Topology
Structure géométrique et relations de voisinage dans l'espace d'embedding, reflétant la hiérarchie et les similarités implicites entre les catégories originales.
Embedding Convergence
Stabilisation des vecteurs d'embedding pendant l'entraînement, indiquant que le modèle a appris des représentations cohérentes et optimales pour les entités catégorielles.
Embedding Gradient Flow
Propagation du gradient à travers la couche d'embedding pendant la rétropropagation, mécanisme par lequel les représentations vectorielles sont optimisées pour minimiser la perte.
Embedding Sparsity
Propriété des espaces d'embedding où certains vecteurs peuvent contenir de nombreux zéros, parfois introduite intentionnellement pour améliorer l'efficacité computationnelle.
Embedding Interpolation
Capacité des espaces d'embedding à représenter des concepts intermédiaires par combinaison linéaire de vecteurs existants, démontrant la continuité sémantique de la représentation.