الترميز الموضعي

تشفير BERT الموضعي

تطبيق محدد مستخدم في نماذج BERT، يعتمد على تضمينات الموضع المتعلمة بحد أقصى 512 حجمًا، تُضاف مباشرة إلى تضمينات الرموز قبل طبقات المحول.

← رجوع