قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
التشفير الموضعي الجيبي
طريقة تشفير موضعي تستخدم دوال جيبية بترددات مختلفة لإنشاء تمثيلات موضعية فريدة وحتمية دون تعلم المعلمات.
التشفير الموضعي المتعلم
نهج يتم فيه تعلم التضمينات الموضعية كمعلمات قابلة للتدريب للنموذج، مما يسمح بالتحسين التكيفي لبيانات التدريب المحددة.
التشفير الموضعي النسبي
تقنية متقدمة تشفر المسافات النسبية بين التوكنات بدلاً من مواقعها المطلقة، مما يحسن التعميم لأطوال متسلسلة متغيرة.
التشفير الموضعي المطلق
طريقة تقليدية للتشفير الموضعي حيث تتلقى كل موقع في التسلسل تضميناً فريداً بناءً على فهرسه المطلق في التسلسل.
التشفير الموضعي الدوار (روبي)
تقنية مبتكرة تطبق دوراناً مصفوفياً على تضمينات الاستعلام والمفتاح، مما يدمج بشكل فعال معلومات الموقع مباشرة في آلية الانتباه.
تشفير الموضعي Alibi
طريقة تعاقب درجات الانتباه بناءً على المسافة بين التوكنات، مما يسمح بالتعميم الفعال لأطوال التسلسل الأطول دون إعادة التدريب.
تضمينات الموضع
متجهات كثيفة تمثل موقع كل توكن في تسلسل، يتم إضافتها أو تسلسلها مع تضمينات التوكن لتوفير معلومات تحديد الموقع المكاني أو الزمني.
الانتباه مع التشفير الموضعي
دمج التشفير الموضعي في آلية الانتباه للسماح للنموذج بترجيح التوكنات بشكل مختلف بناءً على مواقعها النسبية في التسلسل.
تضمينات الموضعية BERT
تطبيق محدد للترميز الموضعي المكتسب في بنية BERT، يستخدم تضمينات موضعية قابلة للتدريب بطول تسلسل أقصى ثابت يبلغ 512 توكن.
الترميز الموضعي GPT
نظام الترميز الموضعي المستخدم في نماذج GPT، مبني في الأصل على تضمينات موضعية مكتسبة لنمذجة الاعتمادات الاتجاهية في النص بكفاءة.
الترميز الموضعي Transformer
مكون أساسي في بنية Transformer الأصلية يستخدم ترميزات جيبية لتمكين النموذج من استخدام ترتيب التوكنات بدون آليات تكرارية.
الترميز الموضعي ثلاثي الأبعاد
امتداد للترميز الموضعي للبيانات ثلاثية الأبعاد مثل الحجوم أو الفيديوهات، يدمج معلومات الموضع على ثلاثة محاور مكانية أو زمنية.
الترميز الموضعي المعقد
متغير متقدم يستخدم الأعداد المركبة لتمثيل المواضع، مما يسمح بنمذجة أغنى للعلاقات المكانية والترددات المتعددة.
الترميز الموضعي الهرمي
نهج منظم يقوم بترميز المواضع على مستويات متعددة من الدقة، يلتقط المواضع المحلية والعالمية في التسلسل.
الترميز الموضعي T5
تطبيق محدد في بنية T5 يستخدم تضمينات موضعية عددية مضافة إلى تضمينات التوكنات، مصمم لتبسيط البنية مع الحفاظ على الأداء.
الترميز الموضعي النسبي لـ XLNet
آلية متطورة في XLNet تقوم بنمذجة المسافات النسبية بين التوكنات في حساب الانتباه، مما يسمح بتعميم أفضل على أطوال التسلسل المختلفة.
الاهتمام المنفصل لـ DeBERTa
ابتكار في DeBERTa يفصل صراحة بين المحتوى والموضع في آلية الانتباه، مستخدماً الترميز الموضعي المنفصل لتحسين التمثيل.
الترميز الموضعي لـ Longformer
نظام ترميز موضعي متكيف لمعالجة المتواليات الطويلة، يجمع بين تضمينات الموضع العالمية والمحلية لتحسين الانتباه ذي النافذة المنزلقة.
الهاش الحساس للموضعية في Reformer
تقنية متخصصة في Reformer تستخدم LSH مع الترميز الموضعي لتقليل التعقيد الحسابي للانتباه على المتواليات الطويلة جداً.