قاموس الذكاء الاصطناعي

📖

المصطلحات

RMSprop

طريقة تحسين تكيفية تستخدم متوسطًا متحركًا مرجحًا لمربع التدرجات لتطبيع معدل التعلم، مما يمنع التذبذبات ويسرع التقارب.

📖

المصطلحات

AdaGrad

خوارزمية تحسين تكيفية تعدل معدل التعلم لكل معلمة بناءً على المجموع التاريخي لمربعات التدرجات، مما يسمح بتحديثات أكبر للمعلمات غير المتكررة.

📖

المصطلحات

AdaDelta

امتداد لـ AdaGrad يحل مشكلة التناقص الرتيب في معدل التعلم باستخدام نافذة منزلقة للتدرجات السابقة بدلاً من المجموع التراكمي.

📖

المصطلحات

Weight Decay

طريقة تنظيم (Regularization) تعاقب الأوزان الكبيرة عن طريق إضافة حد L2 إلى دالة الخسارة، مما يساعد على منع الإفراط في التخصيص (Overfitting) ويحسن التعميم.

📖

المصطلحات

Beta Parameters (Adam)

المعلمات الفائقة β1 و β2 التي تتحكم على التوالي في معدلات التخميد الأسي للمتوسط المتحرك للتدرج (عزم الرتبة الأولى) وتباينه (عزم الرتبة الثانية).

📖

المصطلحات

Bias Correction

آلية في Adam تصحح الانحياز الأولي لتقديرات العزوم نحو الصفر، مما يضمن تقديرات غير متحيزة وهي مهمة بشكل خاص في الخطوات الأولى للتدريب.

📖

المصطلحات

Exponential Moving Average (EMA)

تقنية تجانس تمنح وزنًا أكبر للملاحظات الحديثة، وتستخدم في المحسنات التكيفية لتقدير عزوم التدرجات.

📖

المصطلحات

YOGI

متغير من Adam يستخدم متحكم تباين تكيفي لتثبيت التدريب، وهو فعال بشكل خاص عندما تظهر البيانات توزيعات غير ثابتة أو تدرجات صاخبة.

📖

المصطلحات

معدلات التعلم الدورية

استراتيجية تقوم بتغيير معدل التعلم بشكل دوري بين حدود دنيا وعليا، مما يسمح للنموذج بالهروب من الحد الأدنى المحلي واستكشاف أحواض جذب مختلفة.