آلية الانتباه

تطبيع Softmax

دالة تنشيط تُطبق على درجات الانتباه لتحويلها إلى توزيع احتمالات، مع ضمان أن مجموع الأوزان يساوي 1.

← رجوع