قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
التحليل الافتراضي المضاد
طريقة تفسيرية تحدد التعديلات الدنيا التي يجب إجراؤها على خصائص عينة ما لتغيير توقع النموذج نحو مخرجات مرغوبة، من خلال إنشاء سيناريوهات افتراضية 'ماذا لو'.
التفسير بالمقارنة
تقنية تشرح التوقع بمقارنته بتوقع آخر محتمل، مع إبراز الخصائص التي تبرر سبب اختيار النموذج لخيار بدلاً من الآخر.
قواعد المرساة
تفسيرات محلية على شكل قواعد شرطية 'ترسي' توقع النموذج حول عينة محددة، مضمناً بقاء التوقع دون تغيير في جوار محدد بهذه القواعد.
التفسير المقارن الزوجي
نهج يولد تفسيرات بمقارنة مباشرة بين عينتين منفصلتين، غالباً توقع صحيح وآخر غير صحيح، لعزل العوامل الحاسمة في قرار النموذج.
سيناريوهات افتراضية مضادة متعددة
توليد مجموعة من التفسيرات الافتراضية المضادة المتنوعة لتوقع واحد، مما يقدم رؤية أغنى للمسارات البديلة والطرق المختلفة لتحقيق نتيجة مختلفة.
فضاء افتراضي مضاد قابل للتطبيق
مجموعة التعديلات الممكنة على خصائص عينة ما التي تكون قابلة للتحقيق في العالم الواقعي وذات صلة بالمستخدم، مقيدة توليد التفسيرات الافتراضية المضادة بسيناريوهات معقولة.
التشخيص بالفرق
طريقة تحلل انحرافات سلوك النموذج بين سياقين أو مجموعتي بيانات (مثلاً: قبل وبعد انحراف) لفهم التغيرات في منطق قراره.
التفسير بالمثال النموذجي
تقنية تشرح التوقع بمقارنته بالحالة الأكثر تمثيلاً (النموذج) للفئة المتوقعة، مع إبراز الخصائص التي تقرب أو تبعد العينة عن هذا النموذج.
التحليل الحساسي المقارن
تقييم يقيس كيفية استجابة توقع النموذج لمثيل معين لتغيرات في خصائصه، مقارنةً برد الفعل هذا بمثيلات أخرى أو بحالة مرجعية.
التفسير باستبدال النموذج
نهج يفسر قرار نموذج معقد (صندوق أسود) بمقارنته بقرار نموذج أبسط وقابل للتفسير (مثل: شجرة القرار) مدرب على نفس الجوار المحلي.
خريطة الانحراف عن المعيار
تصور يسلط الضوء على خصائص المثيل التي تنحرف بشكل كبير عن التوزيع 'الطبيعي' أو المتوقع للبيانات، مفسرًا بذلك سبب كون توقعه غير نمطي.
الاستدلال بالحالات التباينية
منهجية تفسير مستوحاة من الاستدلال القانوني، حيث يتم تبرير قرار بمقارنته بحالات سابقة مماثلة ولكن بنتائج مختلفة، لعزل العنصر 'الحاسم'.
التفسير بمعايير الاستبعاد
تقنية تفسر سبب عدم اختيار النموذج لفئة معينة بتحديد الخصائص التي أدت بنشاط إلى استبعاد هذا الخيار في عملية اتخاذ القرار.
تحليل حدود القرار التباينية
فحص الخصائص التي تحدد الحد الفاصل بين فئتين متوقعتين من النموذج، بالتركيز على المثيلات القريبة من هذا الحد لفهم عوامل التحول.
التفسير بعكس التوقع
عملية تتضمن عكس توقع النموذج (مثل الانتقال من 'مرفوض' إلى 'مقبول') وتحليل التغيرات اللازمة في الخصائص، مقدمًا تفسيرًا عما ينقص المثيل الأصلي.
مقارنة ملفات الإسناد
طريقة تقارن ملفات أهمية الخصائص (المولدة بواسطة SHAP، LIME، إلخ) بين مثيلين أو مجموعات من المثيلات للكشف عن الاختلافات الدقيقة في منطق النموذج.
شرح من خلال سيناريو معاكس
إنشاء سيناريو 'أسوأ حالة' والذي، على الرغم من قربه من الحالة الأصلية، يؤدي إلى توقع غير مواتٍ للغاية، مما يساعد في فهم متانة ونقاط ضعف قرار النموذج.