قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
معدل التعلم التكيفي
آلية لضبط معدل التعلم تلقائيًا أثناء التدريب، وتعديل حجم تحديثات المعلمات بناءً على الخصائص المحلية لمشهد دالة التكلفة.
المجموع التاريخي لمربعات التدرجات
تراكم أسي لمربعات التدرجات السابقة المستخدمة في Adagrad لتطبيع تحديثات المعلمات، ومعاقبة التدرجات العالية المتكررة وتفضيل الاتجاهات ذات التدرجات المنخفضة تاريخيًا.
عامل القياس القطري
مصفوفة قطرية تهيئ التدرج في Adagrad، حيث يمثل كل عنصر الجذر التربيعي للمجموع المتراكم لمربعات التدرجات لكل معلمة فردية.
دالة التكلفة المحدبة
دالة الهدف حيث يقع أي خط مستقيم بين نقطتين على السطح فوق السطح، مما يضمن عدم وجود حد أدنى محلي وتقارب عالمي لطرق انحدار التدرج.
معيار التدرج
قياس حجم متجه التدرج، المستخدم في Adagrad لتحديد ما إذا كانت المعلمة قد خضعت لتحديثات كبيرة تاريخيًا وبالتالي تتطلب تعديلًا تكيفيًا لمعدل التعلم.
توقع مربع التدرج
تقدير إحصائي للمتوسط طويل الأجل لمربعات التدرجات، يشكل الأساس لحساب عوامل القياس التكيفية في محسنات عائلة Adagrad.
متجه المعلمات
مجموعة من جميع المتغيرات القابلة للتحسين في النموذج، يتم تحديثها بشكل متكرر بواسطة Adagrad بمعدلات تعلم مكيفة بشكل فردي لكل مكون من مكونات المتجه.
التهيئة السيئة
حالة تختلف فيها مقاييس التدرجات في اتجاهات مختلفة بشكل كبير، وهي مشكلة يعالجها Adagrad على وجه التحديد عن طريق تكييف معدل التعلم ديناميكيًا لكل بُعد.
تصحيح الانحياز
آلية في آدم ومتغيراته تصحح التقدير المتحيز الأولي للعزوم الأولى والثانية الناتج عن التهيئة الصفرية للمتوسطات المتحركة الأسية.
المعلمة الفائقة إبسيلون
ثابت صغير يضاف إلى المقام في Adagrad ومتغيراته لضمان الاستقرار العددي عن طريق تجنب القسمة على صفر عندما يكون مجموع مربعات التدرجات صغيرًا جدًا.