قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
أداغراد
خوارزمية تحسين تكيفية تقوم بضبط معدل التعلم ديناميكيًا لكل معلمة بناءً على تاريخ التدرجات المتراكمة. تسمح بتحديثات أكبر للمعلمات غير المتكررة وأصغر للمعلمات المتكررة.
آر إم إس بروب
طريقة تحسين تحل مشكلة التدهور المفرط لمعدل التعلم في أداغراد باستخدام متوسط متحرك أسي لمربعات التدرجات. يحافظ آر إم إس بروب على معدل تعلم تكيفي دون تدهور جذري.
تدهور معدل التعلم
تقنية تنظيم تقلل تدريجيًا معدل التعلم أثناء التدريب للسماح بتقارب أدق نحو الأمثل. يساعد التدهور على استقرار التحسين في المراحل النهائية للتعلم.
ضوضاء التدرج
التقلب الإحصائي المتأصل في تقديرات التدرج في الطرق العشوائية بسبب أخذ العينات العشوائي للبيانات. يمكن أن تساعد الضوضاء في الهروب من الحد الأدنى المحلي ولكنها تتطلب تقنيات للتحكم في تباينها.
تباين التدرج
مقياس لتشتت تقديرات التدرج في الطرق العشوائية، يؤثر بشكل مباشر على استقرار التحسين. يعد تقليل التباين هدفًا رئيسيًا لتحسين كفاءة الخوارزميات العشوائية.
حجم الدفعة
عدد العينات المستخدمة لحساب كل تقدير للتدرج في طرق الدفعات المصغرة. يؤثر حجم الدفعة على المفاضلة بين الكفاءة الحسابية وجودة تقدير التدرج والتعميم.
حقبة
دورة تدريب كاملة حيث تم استخدام كل عينة من مجموعة البيانات مرة واحدة بالضبط لتحديث المعلمات. تسمح الحقبات بهيكلة التدريب ومراقبة تقدم التعلم.
طريقة روبنز-مونرو
خوارزمية تقريب عشوائية أساسية تتقارب نحو أصفار دالة باستخدام ملاحظات مشوشة وخطوات متناقصة. تشكل هذه الطريقة الأساس النظري للانحدار التدرجي العشوائي الحديث.