قاموس الذكاء الاصطناعي

📖

المصطلحات

الاستعلامات، المفاتيح، القيم (QKV)

ثلاث مصفوفات مشتقة من المدخلات تُستخدم في آلية الانتباه: الاستعلامات للبحث، المفاتيح ليتم العثور عليها، والقيم التي تحتوي على المعلومات المراد استخلاصها.

📖

المصطلحات

الانتباه الإضافي (Additive Attention)

نوع من الانتباه يستخدم شبكة عصبية أحادية الطبقة لحساب درجات التوافق، وهو فعال بشكل خاص عندما تختلف أبعاد الاستعلامات والمفاتيح.