قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
BFGS
خوارزمية تحسين شبه نيوتن تكرارية تقارب مصفوفة هيسيان العكسية لإيجاد الحد الأدنى لدالة غير مقيدة.
تقريب هيسيان
تقنية تقدير مصفوفة المشتقات الثانية لدالة دون حساب مباشر، باستخدام معلومات التدرج لبناء تقريب تكراري.
مصفوفة معكوسة مقربة
تقريب معكوس مصفوفة هيسيان يتم بناؤه تدريجياً في طرق شبه نيوتن لتحديد اتجاه الانحدار الأمثل.
بحث خطي
عملية تكرارية تحدد طول الخطوة الأمثل في اتجاه الانحدار لتقليل دالة الهدف في كل تكرار.
تصحيح BFGS
صيغة تحديث تقريب هيسيان تحافظ على تناظر المصفوفة وإيجابيتها المحددة مع تلبية المعادلة القاطعة.
ذاكرة محدودة
استراتيجية في L-BFGS تتضمن الاحتفاظ بعدد ثابت فقط من التكرارات السابقة لإعادة بناء تقريب هيسيان، مما يقلل من التعقيد المكاني.
تقارب فوق خطي
خاصية طرق BFGS حيث تتجه نسبة الأخطاء المتتالية نحو الصفر، مما يوفر تقارباً أسرع من التقارب الخطي ولكن أقل من التربيعي.
معادلة قاطعة
شرط مفروض في طرق شبه نيوتن يضمن أن تقريب هيسيان يحول بشكل صحيح فرق التدرجات إلى فرق النقاط.
عامل القياس
معامل أولي في L-BFGS يضبط تقريب هيسيان الأولي لتحسين التقارب في المشاكل سيئة التكييف.
متجه التصحيح
زوج من المتجهات (s, y) المخزنة في L-BFGS حيث يمثل s الإزاحة و y يمثل فرق التدرج، ويستخدمان لإعادة بناء تقريب هيسيان.
اتجاه النزول
متجه يتم حسابه بضرب تقريب هيسيان العكسي في التدرج السلبي، مما يشير إلى الاتجاه الأمثل لتقليل الدالة.
هيسيان الأولي
مصفوفة البداية في طرق شبه نيوتن، عادةً ما تكون مصفوفة هوية مضروبة في عامل قياس، وتعمل كأساس للتكرارات اللاحقة.
خوارزمية الحلقتين
تطبيق فعال لـ L-BFGS يستخدم حلقتين لحساب اتجاه النزول دون إعادة بناء مصفوفة هيسيان الكاملة بشكل صريح.