قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
الاستقرار
قياس لاتساق التفسيرات المولدة لمثيلات متشابهة أو لنفس المثيل مع تغييرات طفيفة في البيانات. يمكن أن يشير انخفاض الاستقرار إلى تفسير غير قوي أو نموذج غير مستقر.
عدم الإخلاص
مقياس يقدر الفجوة بين تدرج نموذج التفسير وتدرج نموذج الصندوق الأسود. يقيس قدرة التفسير على التقاط حساسية النموذج بشكل صحيح للتغيرات في المدخلات.
تعقيد التفسير
قياس لسهولة أو إيجاز التفسير، وغالباً ما يتم تقييمه بعدد القواعد أو السمات أو المصطلحات غير الصفرية. التعقيد المنخفض يشجع على فهم بشري أفضل.
درجة القوة
تقييم كمي لتغير التفسيرات في مواجهة اضطرابات معادية على بيانات الإدخال. تعني الدرجة المرتفعة أن التفسيرات تقاوم بشكل جيد للهجمات والضوضاء.
المنطقة تحت منحنى المصداقية
مقياس مجمّع يحسب المنطقة تحت منحنى المصداقية كدالة لحجم الجوار أو عدد السمات المستخدمة. يسمح بمقارنة الأداء العام لطرق التفسير.
فجوة التنبؤ المحلي
الفرق المطلق بين تنبؤ نموذج الصندوق الأسود وتنبؤ نموذج التفسير لمثيل محدد. يقيس هذا المقياس دقة التقريب المحلي.
معدل الضغط
النسبة بين عدد السمات في النموذج الأصلي وعدد السمات في التفسير المبسط. يقدر مدى تبسيط التفسير مقارنة بالنموذج الكامل.
تماسك التفسيرات
قياس للتماسك المنطقي بين التفسيرات المولدة لمثيلات مختلفة من نفس الفئة أو لمثيلات متجاورة. يقيس التماسك العام لنظام التفسير.
دالة خسارة الشرح
دالة هدف رياضية تُستخدم لتحسين معلمات نموذج الشرح. تساعد عادةً على الموازنة بين الولاء للنموذج الأصلي وتعقيد الشرح.
حساسية للضوضاء
مقياس يحدد مدى تغير الشروحات عند إضافة ضوضاء عشوائية إلى بيانات الإدخال. تُعتبر حساسية الضوضاء المنخفضة مرغوبة للحصول على شروحات موثوقة.
أحادية الشرح
خاصية تقيس ما إذا كانت أهمية الميزات في الشرح تتغير بشكل متسق مع التغيرات الأحادية لقيم الإدخال. تضمن الاتجاه المتسق للشروحات.
خطأ إعادة البناء
مقياس يقيّم قدرة الشرح على إعادة بناء سلوك النموذج الأصلي، ويُقاس عادةً بالخطأ التربيعي المتوسط بين التنبؤات. وهو مهم جدًا لطرق التقطير النموذجي.
مؤشر الانتقائية
قياس يحدد مدى قدرة طريقة الشرح على التركيز على أهم الميزات لتنبؤ معين. المؤشر المرتفع يشير إلى تعريف أفضل للمتغيرات الرئيسية.
درجة الولاء الموحدة
مقياس ولاء مقاس بين 0 و 1 لتسهيل المقارنة بين نماذج وطرق شرح مختلفة. يسمح بتقييم موحد لجودة الشروحات.
بروتوكول التقييم بإزالة الميزة
منهجية منهجية تقيس جودة الشرح عن طريق قياس الأثر على أداء النموذج عند إزالة أو إخفاء الميزات المحددة كمهمة.
مقياس الاكتمال
تقييم كمي يقيس ما إذا كان الشرح يلتقط جميع العوامل ذات الصلة التي ساهمت في تنبؤ معين. يقابل الشروحات الجزئية أو غير المكتملة.
تباين الشرح (Explanation Variance)
مقياس إحصائي لتشتت الشروحات المولدة خلال عمليات تشغيل متعددة لنفس الحالة. يعتبر التباين المنخفض ضرورياً لإعادة الإنتاج وموثوقية الشروحات.