الترميز الموضعي

تشفير GPT الموضعي

نظام تشفير موضعي مستخدم في نماذج GPT، كان يعتمد في البداية على تضمينات متعلمة ثم تطور إلى متغيرات أكثر تعقيدًا مثل RoPE في الإصدارات الأحدث لتحسين الاستقراء.

← رجوع