एआई शब्दावली

📖

शब्द

Block Sparse Attention

Approche d'attention creuse organisée en blocs, où la matrice d'attention est divisée en blocs et seuls certains blocs sont calculés pour optimiser le parallélisme matériel.

📖

शब्द

LSH Attention

Mécanisme d'attention utilisant le hachage sensible à la localité pour regrouper les requêtes et clés similaires, ne calculant l'attention qu'au sein de ces groupes.