KI-Glossar
Das vollständige Wörterbuch der Künstlichen Intelligenz
162
Kategorien
2.032
Unterkategorien
23.060
Begriffe
Begriffe
Queries, Keys, Values (QKV)
Trois matrices dérivées de l'entrée utilisées dans l'attention : Queries pour chercher, Keys pour être trouvées, et Values contenant l'information à extraire.
Begriffe
Additive Attention
Type d'attention utilisant un réseau neuronal à une couche pour calculer les scores de compatibilité, particulièrement efficace lorsque les dimensions des requêtes et clés diffèrent.
🔍