قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
DARTS
البحث عن الهيكلية القابلة للاشتقاق، وهي طريقة رائدة تحول المشكلة المنفصلة للبحث عن الهيكلية إلى مشكلة تحسين مستمرة باستخدام أوزان هيكلية قابلة للاشتقاق.
الهيكلية المسترخية
تمثيل مستمر لمساحة هيكلية منفصلة حيث يتم دمج العمليات المرشحة بأوزان softmax، مما يسمح بالتحسين عن طريق نزول التدرج.
أوزان الهيكلية
معلمات مستمرة (عادة ما تُرمز إليها بـ ألفا) تحدد الأهمية النسبية لكل عملية مرشحة في الهيكلية المسترخية ويتم تحسينها عبر التدرج.
العمليات المختلطة
مزيج موزون من عدة عمليات مرشحة (الالتفاف، التجميع، إلخ) في هيكلية مسترخية، حيث تحدد الأوزان مساهمة كل عملية.
التحسين ثنائي المستوى
مشكلة تحسين على مستويين حيث يتم تحسين أوزان الشبكة على المستوى الأدنى ومعلمات الهيكلية على المستوى الأعلى، مما يتطلب تدرجات من الرتبة الثانية.
خلية حسابية
كتلة أساسية قابلة للتكرار في هيكلية الشبكة يتم اكتشاف بناها الداخلية (اتصالات وعمليات) تلقائياً بواسطة NAS.
تقطيع الهيكلية
العملية النهائية للـ NAS حيث يتم تحويل الهيكلية المسترخية المستمرة إلى هيكلية منفصلة عن طريق اختيار العملية ذات الوزن ألفا الأعلى لكل اتصال.
تدرج الهيكلية
تدرج فقدان التحقق بالنسبة لأوزان الهيكلية، يستخدم لتحديث بنية الشبكة أثناء بحث الهيكلية.
خلية فائقة
هيكل أساسي أكبر من خلية بسيطة، يحتوي على عدة خلايا مترابطة لزيادة التعقيد والتعبيرية في مساحة البحث.
تقليم المسار
تقنية تقليم تدريجي لمسارات البنية الأقل أهمية بناءً على أوزان البنية الخاصة بها، مما يقلل من التعقيد الحسابي أثناء البحث.
اتصالات القفز القابلة للتفاضل
اتصالات القفز بأوزان قابلة للتعلم في البنية المسترخية، مما يسمح للنموذج بتحديد ديناميكي استخدام هذه الاتصالات أم لا.
مساحة البحث المستمرة
استرخاء مساحة البحث المنفصلة في مجال مستمر حيث تتوافق كل بنية محتملة مع نقطة في هذه المساحة المستمرة.
معلمات ألفا
متغيرات مستمرة في NAS القابل للتفاضل التي تتحكم في خلط العمليات على كل اتصال ويتم تحسينها للعثور على أفضل بنية.
التحسين المشترك
عملية متزامنة لتحسين أوزان الشبكة ومعلمات البنية، تتم عادة بالتناوب في طرق NAS القابلة للتفاضل.
التدرج التقريبي
تقنية تستخدم لتقريب التدرجات من الدرجة الثانية المكلفة حسابياً في التحسين ثنائي المستوى، عادة عن طريق تجاهل بعض المصطلحات لتحسين الكفاءة.
معلمات البنية
مجموعة أوزان البنية التي تحدد هيكل الشبكة في NAS القابل للتفاضل، منفصلة عن أوزان النموذج التي تحدد تحويلات البيانات.
الاسترخاء المستمر
تحويل رياضي يحول مشكلة التحسين المجمعة المنفصلة إلى مشكلة مستمرة، مما يسمح باستخدام طرق التحسين القائمة على التدرج.
مرحلة الإحماء
المرحلة الأولية من NAS القابل للتفاضل حيث يركز التدريب على أوزان الشبكة قبل بدء تحسين معلمات الهيكل.