قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
227
الفئات
2,955
الفئات الفرعية
34,512
المصطلحات
المصطلحات
ضوضاء التدرج
التقلب المتأصل في تقديرات التدرج بسبب أخذ العينات العشوائية للمجموعات المصغرة، والذي يمكن أن يساعد في الهروب من النهايات الصغرى المحلية. تتميز هذه الضوضاء بتباين يتناسب عكسياً مع حجم الدفعة ويتناقص مع التقارب.
المصطلحات
انحدار التدرج العشوائي البسيط (Vanilla SGD)
النسخة الأساسية من انحدار التدرج العشوائي بدون آليات تسريع مثل الزخم أو تكييف معدل التعلم. يقوم انحدار التدرج العشوائي البسيط بتحديث الأوزان باتباع الاتجاه السلبي للتدرج بمعدل تعلم ثابت.
المصطلحات
انحدار التدرج بالدفعة الكاملة
نوع من انحدار التدرج يستخدم مجموعة البيانات بأكملها لحساب تقدير دقيق للتدرج في كل تكرار. يوفر هذا النهج تقاربًا مستقرًا ولكنه يأتي بتكلفة حسابية باهظة لمجموعات البيانات الكبيرة.
🔍