الانحدار التدرجي العشوائي

RAdam

نسخة معدلة من Adam تصحح تباين الأوزان التكيفية خلال مراحل الإحماء الأولية للتدريب. يجمع RAdam بين المزايا النظرية لـ SGD والأداء العملي لـ Adam، مما يوفر تقاربًا أكثر استقرارًا في بداية التدريب.

← رجوع