قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
النموذج المعلم
شبكة عصبية مُدرَّبة مسبقاً كبيرة الحجم تُستخدم كمصدر للمعرفة، حيث تُستخدم مخرجاتها الاحتمالية لتوجيه تعلم النموذج الطالب.
النموذج الطالب
بنية نموذج مدمجة مُحسّنة لمحاكاة سلوك النموذج المعلم، تهدف إلى الحفاظ على الأداء مع تقليل التعقيد الحسابي.
المهمة البديلة
مهمة بديلة مصممة اصطناعياً لتوليد إشارات تعلم خاضع للإشراف من بيانات غير مصنفة، وتعمل كهدف وسيط للإشراف الذاتي.
خسارة التقطير
دالة هدف تقيس التباعد بين توزيعات الاحتمال للنموذج المعلم والنموذج الطالب، وتُنفذ عادةً باستخدام تباعد كولباك-ليبلر.
درجة حرارة Softmax
معامل مقياس يُطبق على دالة Softmax لتليين توزيعات الاحتمال، مما يكشف عن العلاقات بين الفئات التي تعلمها النموذج المعلم.
محاذاة التوزيعات
تقنية تهدف إلى تقليل الفجوة بين توزيعات الاحتمال التي يتنبأ بها المعلم والطالب في فضاء الميزات أو التنبؤات.
المهمة الذريعة
مهمة ثانوية خاضعة للإشراف الذاتي مصممة لإجبار النموذج على تعلم تمثيلات مفيدة، مثل التنبؤ بالأجزاء المقنعة أو إعادة بناء المدخلات التالفة.