قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
مرساة (Anchors)
طريقة تحدد قواعد قرار بسيطة وكافية (مرساة) تشرح بدقة عالية تنبؤ النموذج لحالة معينة
قيمة شابلي
مفهوم من نظرية الألعاب يقيس المساهمة الحدية المتوسطة للاعب (الميزة) عبر جميع التحالفات الممكنة، ويشكل أساس SHAP
اضطراب المدخلات
عملية إنشاء تغييرات طفيفة في بيانات المدخلات لملاحظة التأثير على تنبؤ النموذج، تستخدمها طرق مثل LIME لبناء جوار محلي
الدقة (Fidelity)
مقياس يقيم مدى تقليد الشرح المحلي (مثل النموذج البسيط لـ LIME) بدقة سلوك النموذج المعقد في جواره
شرح محايد للنموذج
نهج للقابلية للتفسير يعامل النموذج التنبؤي كصندوق أسود، ويتفاعل فقط مع مدخلاته ومخرجاته لإنشاء شروحات
خريطة السطوع (Saliency Map)
تصور يبرز البكسلات أو الميزات في المدخل التي أثرت أكثر على تنبؤ النموذج، غالبًا ما يتم الحصول عليها بحساب التدرج
جوار النواة
في LIME، دالة تحدد القرب بين الحالة الأصلية والحالات المضطربة، موزنة تأثيرها في نموذج الشرح المحلي
قاعدة الشرح (Explanation Rule)
شرط منطقي بسيط (مثال: IF feature_A > X AND feature_B < Y) يلتقط السبب الرئيسي لتنبؤ محدد، وهو نموذجي لطرق مثل Anchors
القابلية للتفسير اللاحق
تحليل نموذج بعد تدريبه لفهم قراراته، على عكس النماذج القابلة للتفسير بطبيعتها.
مفسر SHAP Kernel
تطبيق لـ SHAP يستخدم ترجيحًا من نوع kernel لتقدير قيم Shapley، مما يجعله محايدًا للنموذج ولكن قد يكون أبطأ.
مفسر SHAP Tree
خوارزمية SHAP محسّنة تحسب قيم Shapley الدقيقة للنماذج القائمة على الأشجار (مثل XGBoost، LightGBM) بكفاءة عالية.
الشرح المحلي بالوكيل
المبدأ الأساسي لـ LIME، الذي يتضمن تدريب نموذج بسيط وقابل للتفسير (بالوكيل) لتقريب سلوك النموذج المعقد محليًا.