قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
الوفاء (Faithfulness)
مقياس لمدى تعبير التفسير بأمانة عن المنطق الداخلي للنموذج، بتقييم ما إذا كانت تنبؤات التفسير تتوافق مع تنبؤات النموذج على البيانات المضطربة.
القابلية للفهم (Comprehensibility)
مقياس ذاتي أو موضوعي لسهولة فهم الإنسان للتفسير، غالباً ما يرتبط بتعقيد نموذج التفسير (مثل: عدد القواعد، عمق الشجرة).
الكفاية (Sufficiency)
قدرة مجموعة فرعية من الخصائص، التي تم تحديدها بواسطة تفسير، على الحفاظ على التنبؤ الأصلي للنموذج، مما يشير إلى أن هذه الخصائص كافية لتبرير القرار.
الضرورة (Necessity)
تقييم ما إذا كان غياب خاصية (أو مجموعة من الخصائص) تم تحديدها كمهمة بواسطة التفسير يغير بشكل كبير تنبؤ النموذج.
درجة الاستدلال السببي (CIS)
مقياس كمي لقدرة التفسير على تحديد علاقات سببية حقيقية بدلاً من مجرد علاقات ارتباطية، باختبار آثار التدخلات على المتغيرات.
متانة التفسير (Explanation Robustness)
تقيس تباين التفسيرات عندما يتعرض النموذج أو بيانات الإدخال لهجمات خصومة أو ضوضاء، بتقييم مقاومة التفسير للتلاعب.
تماسك الخصائص (Feature Coherence)
تقييم ما إذا كانت الخصائص التي تعتبر مهمة بواسطة تفسير ما متماسكة دلالياً أو منطقياً مع بعضها البعض، مما يعزز مصداقية التفسير الشامل.
معدل الانتقائية (Selectivity Rate)
مؤشر يقيس نسبة الخصائص أو القواعد المستخدمة بواسطة تفسير ما مقارنة بالعدد الإجمالي المتاح، مما يفضل التفسيرات المقتصدة.
دالة الأهمية (Relevance Function)
دالة رياضية تقيس مساهمة خاصية أو مجموعة من الخصائص في التنبؤ النهائي للنموذج، وتشكل الأساس للعديد من مقاييس القابلية للتفسير.
اتفاقية المقيّمين (Inter-Annotator Agreement)
مقياس إحصائي (مثل: معامل كابا لكوهين) يقيس مستوى التوافق بين خبراء بشريين مختلفين حول جودة أو صحة تفسير ما، مما يتحقق من ذاتيته.
انحياز التأكيد (Confirmation Bias)
مقياس يقيم ما إذا كان التفسير يعزز فقط المعتقدات المسبقة للمستخدم دون تحدي النموذج، مما يقيس خطر التفسيرات المضللة.
القدرة التمييزية (Discriminative Power)
قدرة التفسير على التمييز بوضوح بين الخصائص التي تؤثر إيجاباً على التنبؤ وتلك التي تؤثر سلباً عليه، مما يحسن وضوح التفسير.
الولاء الشامل (Global Fidelity)
يقيم قدرة التفسير على تمثيل سلوك النموذج الشامل بدقة عبر كامل فضاء البيانات، غالباً على حساب الدقة المحلية.
درجة الاحتمال المضاد (Counterfactual Score)
مقياس يقيم جودة تفسير احتمالي مضاد بناءً على الحد الأدنى من التغيير المطلوب لتعديل تنبؤ النموذج ومعقولية السيناريو المُنتَج.
العمق الدلالي (Semantic Depth)
يقيس مستوى تجريد التفسير، ويحدد ما إذا كان يعتمد على خصائص منخفضة المستوى (بكسل) أو على مفاهيم عالية المستوى (كائنات، أفكار) أكثر قابلية للفهم.