قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
قناع ثنائي
مصفوفة تحتوي فقط على قيم 0 و 1، حيث يشير 1 إلى المواضع المراد الاحتفاظ بها و0 إلى المواضع المراد إخفاؤها، وتُطبق عادةً عبر الضرب العنصري قبل أو بعد الانتباه Softmax.
قناع سببي مثلثي
هيكل مصفوفي مثلثي يتم فيه إخفاء العناصر الموجودة فوق القطر، مما يخلق تبعية زمنية صارمة في نماذج المحولات (Transformers) للمهام التسلسلية.
قناع الطول المتغير
قناع ديناميكي يتكيف مع الأطوال المتغيرة للتسلسلات داخل الدفعة (batch)، مما يُحسِّن الحساب من خلال تجاهل المواضع غير ذات الصلة مع الحفاظ على محاذاة الدفعة.
قناع حشو المفاتيح
قناع محدد يُطبق على المفاتيح في آلية الانتباه لمنع رموز الحشو (padding tokens) من التأثير على درجات الانتباه، ويُضاف عادةً قبل عملية Softmax.
قناع الاستعلام
قناع يُطبق على الاستعلامات لتقييد المواضع التي يمكنها إجراء استعلامات الانتباه، ويُستخدم في بنى متخصصة تتطلب تحكماً دقيقاً في التفاعلات.
قناع القيم
قناع يُطبق على القيم بعد حساب الانتباه لتصفية المساهمات غير المرغوب فيها، مما يسمح بالتحكم الدقيق بعد الانتباه في تمثيلات المخرجات.
تقنيع أوزان الانتباه
تقنية تتضمن تطبيق قناع مباشرة على أوزان الانتباه بعد Softmax لإجبار بعض المساهمات على الصفر، مما يوفر تحكماً صريحاً في مسارات المعلومات.
قناع Softmax
قناع يُطبق عن طريق إضافة قيمة سالبة كبيرة (عادةً -inf) إلى درجات الانتباه قبل Softmax، مما يضمن حصول المواضع المخفية على احتمالية قريبة من الصفر.
قناع اللوجت
قناع يُطبق على مستوى اللوجت (درجات الانتباه الخام) لاستبعاد تفاعلات معينة قبل التطبيع Softmax، مما يحافظ على التوزيع الرياضي للدرجات الصالحة.