Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
242
catégories
3 353
sous-catégories
40 780
termes
termes
Sinkhorn Transformer
Architecture utilisant l'algorithme de Sinkhorn-Knopp pour créer des matrices d'attention doublement stochastiques avec une complexité quasi-linéaire, améliorant la stabilité numérique.
termes
Memory Compressed Attention
Méthode compressant les clés et valeurs via une opération de pooling avant le calcul d'attention, réduisant la taille de la matrice d'attention et donc la complexité computationnelle.
🔍