تحسين النماذج
تقطير النموذج
طريقة ضغط حيث يتم تدريب نموذج كبير ومعقد (المعلم) على تدريب نموذج أصغر وأسرع (الطالب) على إعادة إنتاج مخرجاته، بما في ذلك الاحتمالات الناعمة، لنقل معرفته وتحقيق أداء قريب بتعقيد منخفض.
← رجوع