قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
آلية الانتباه
خوارزمية تسمح للنماذج بتقدير أهمية العناصر المختلفة في تسلسل ما.
الانتباه الذاتي متعدد الرؤوس
توسيع لآلية الانتباه يسمح بالتقاط علاقات مختلفة بالتوازي.
الترميز الموضعي
تقنية لحقن معلومات الموقع في النماذج بدون تكرار.
هندسة التشفير-فك التشفير
الهيكل الأساسي للمحولات (Transformers) بمكونين لمعالجة التسلسلات.
BERT ومتغيراته
عائلة من النماذج المدربة مسبقًا ثنائية الاتجاه لفهم اللغة.
GPT والنماذج التوليدية
محولات ذاتية الانحدار محسّنة لتوليد النصوص.
الضبط الدقيق وتكييف المجال
عملية تكييف النماذج المدربة مسبقًا لمهام أو مجالات محددة.
تجزئة الكلمات الفرعية
تقنيات تقسيم النص إلى وحدات ذات معنى للمحولات.
محولات الرؤية
تطبيق بنية المحولات على مهام معالجة الصور.
محولات للسلاسل الطويلة
هياكل محسّنة للتعامل مع السلاسل التي تتجاوز الحدود القياسية.
تقطير النماذج
ضغط المحولات الكبيرة إلى نماذج أصغر وأكثر كفاءة.
هندسة الأوامر والتعلم في السياق
تقنيات التفاعل مع النماذج الكبيرة بدون ضبط دقيق صريح.
المحولات متعددة الوسائط
بنى تجمع بين النصوص والصور والوسائط الأخرى في إطار موحد.
التحسين وقابلية التوسع
تقنيات لتدريب المحولات (transformers) الكبيرة بكفاءة.
المعايير والتقييم
مقاييس ومجموعات بيانات قياسية لتقييم أداء المحولات.