قاموس الذكاء الاصطناعي

القاموس الكامل للذكاء الاصطناعي

227

الفئات

2,955

الفئات الفرعية

34,512

المصطلحات

تقنية تضيف معلومات الموضع المطلق أو النسبي إلى تضمينات الإدخال للسماح للنموذج بفهم ترتيب الرموز في التسلسل.

متغير من تطبيع الطبقة يتم تطبيقه قبل طبقات الانتباه والطبقة المتقدمة، مما يحسن استقرار التدريب في المحولات العميقة.

التكوين الأصلي لتطبيع الطبقة المطبق بعد طبقات الانتباه والطبقة المتقدمة، بالاشتراك مع الاتصالات المتبقية.

متغير فعال من تطبيع الطبقة يستخدم فقط متوسط الجذر التربيعي للتنشيطات، مما يقلل من التعقيد الحسابي مع الحفاظ على الأداء.

بنية ثنائية الاتجاه تتكون من مشفر يعالج تسلسل الإدخال ومفكك يولد تسلسل الإخراج، أساس نماذج المحولات.

معلمة استقرار رقمي تضاف في تطبيع الطبقة لتجنب القسمة على صفر عند حساب تباين التنشيطات.

🔍