قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
درجة حرارة التقطير
معامل فرط الحرارة المطبق في دالة softmax للتحكم في تليين احتمالات نموذج المعلم، مما يسمح للطالب بتعلم العلاقات بين الفئات بما يتجاوز التنبؤات الأكثر احتمالاً.
التقطير الطبقي
تقنية تقطير يتم فيها نقل التمثيلات الوسيطة لكل طبقة من طبقات المعلم إلى الطبقات المقابلة للطالب، مما يضمن تعلمًا تدريجيًا للميزات على جميع مستويات التجريد.
التقطير التبايني
تقنية تستخدم أزواجًا متناقضة لتحسين جودة التقطير، حيث يتعلم الطالب في وقت واحد تقليد المعلم والتمييز بين العينات السلبية.
التقطير عبر البنى
طريقة لنقل المعرفة بين نماذج ذات بنى مختلفة، مثل تقطير محول (transformer) إلى بنية شبكة عصبية تلافيفية (CNN) أو شبكة عصبية متكررة (RNN)، مما يسمح بالمرونة في النشر المستهدف.
تقليم المعرفة
عملية مدمجة لتقليم المعلمات والتقطير حيث يتم إزالة الأوزان الأقل أهمية من النموذج، ثم يعوض التقطير فقدان الأداء الناتج عن التقليم.
التقطير الديناميكي
نهج تكيفي حيث يتم تعديل قوة التقطير واختيار الأهداف ديناميكيًا أثناء التدريب وفقًا لتقدم الطالب وصعوبة العينات.
التقطير الصفري
تقنية تسمح بتقطير نموذج معلم بدون بيانات تدريب مصنفة بشكل صريح، باستخدام المعرفة الضمنية أو البيانات الاصطناعية التي يولدها المعلم.
التقطير الواعي بالعلاقات
طريقة متقدمة حيث لا يتعلم الطالب التنبؤات الفردية للمعلم فحسب، بل يتعلم أيضًا العلاقات الهيكلية بين الأجزاء المختلفة من البيانات، ويلتقط التبعيات المعقدة.
التقطير المدرك للضغط
استراتيجية تدمج قيود الضغط المادية (الكمّية، التخفيف) مباشرة في عملية التقطير لتحسين أداء النموذج النهائي بعد الضغط.