قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
أمانة التفسير
مقياس كمي للمطابقة بين تنبؤات النموذج الأسود وتنبؤات النموذج القابل للتفسير المستخدم لتوليد التفسيرات. تشير الأمانة العالية إلى أن التفسير يمثل بدقة سلوك النموذج الأصلي في المنطقة المحلية المدروسة.
استقرار التفسيرات
مؤشر يقيم اتساق التفسيرات المُولدة لعينات متشابهة أو لنفس العينة مع تغييرات طفيفة. يضمن الاستقرار أن التفسيرات لا تتغير بشكل عشوائي في مواجهة تغييرات بسيطة في بيانات الإدخال.
اكتمال التفسير
مقياس يقيس قدرة التفسير على التقاط جميع العوامل المؤثرة ذات الصلة في قرار النموذج. يجب أن يدمج التفسير الكامل جميع الخصائص المعنوية دون إغفال عناصر حاسمة.
الملاءمة الدلالية
تقييم الاتساق بين التفسير المُولد ومعرفة المجال أو المنطق البشري المتوقع. يقيس هذا المقياس ما إذا كانت التفسيرات المنتجة متوافقة مع منطق وحدس خبراء المجال.
إيجاز التفسير
مقياس لإيجاز التفسير، يقيم النسبة بين كمية المعلومات المقدمة وتعقيدها الهيكلي. يفضل التفسير الموجز العناصر الأكثر صلة مع تقليل التكرار المعلوماتي.
متانة التفسير
قدرة التفسير على الحفاظ على صحته في مواجهة اضطرابات أو هجمات خبيثة على بيانات الإدخال. يقيم هذا المقياس مقاومة التفسيرات للتلاعب الخبيث الذي يهدف إلى تضليل.
دقة التدرج
مستوى التفصيل الذي يعمل به التفسير، من التفسيرات الشاملة (النموذج بأكمله) إلى التفسيرات المحلية (عينة محددة). تحدد دقة التدرج دقة وخصوصية التفسير المقدم.
اتساق التفسيرات المتبادلة
مقياس يقيم الاتساق المنطقي بين التفسيرات المختلفة المُولدة لعينات متنوعة ولكن متقاربة دلالياً. يضمن هذا المقياس أن التفسيرات تتبع أنماطاً معقولة وغير متناقضة.
الملاءمة المُدرَكة
مؤشر نوعي يقيس مدى سهولة فهم المستخدمين وتفسيرهم وتطبيقهم للتفسيرات المُنشأة. تقيّم الملاءمة المُدرَكة مدى التوافق بين التعقيد التقني للتفسير والقدرات الإدراكية للمستخدم.
القابلية للتحقق التفسيرية
القدرة على تأكيد أو نفي صحة التفسيرات المقدمة من النموذج بشكل مستقل. تتيح القابلية للتحقق للمستخدمين التحقق من اتساق التفسيرات مع المعرفة الخارجية أو الاختبارات التجريبية.
فجوة التفسير
الفرق الكمي بين التعقيد الجوهري للنموذج وبساطة تفسيره. قد يشير الفارق المرتفع إلى فقدان كبير للمعلومات أثناء عملية التبسيط التفسيري.
التحديد السببي
مقياس يُقيّم ما إذا كان التفسير يحدد بشكل صحيح علاقات السببية بدلاً من مجرد علاقات ارتباطية. يميّز التحديد السببي العوامل التي تؤثر فعلياً على القرار عن تلك التي تظهر بشكل متزامن فقط.
التعميم التفسيري
قدرة التفسير المحلي على التطبيق بشكل متناسق على حالات مشابهة أخرى في مجموعة البيانات. يُقيّم هذا المقياس ما إذا كانت الأنماط التفسيرية المُحددة يمكن استقراؤها beyond الحالة الخاصة المدروسة.
الثقة التفسيرية
مستوى اليقين المُقَيس المرتبط بتفسير ما، مشيراً إلى احتمالية صحة التفسير. تتيح الثقة التفسيرية للمستخدمين تقييم موثوقية التفسيرات المقدمة من النظام.
الإنصاف التفسيري
مقياس يُقيّم ما إذا كانت التفسيرات المُنشأة تعامل مختلف المجموعات الديموغرافية أو الفئات السكانية الفرعية بشكل عادل. يضمن الإنصاف التفسيري عدم وجود تحيزات تمييزية في طريقة تبرير القرارات.
التغطية التفسيرية
نسبة مساحة الميزات أو الحالات التي يمكن للنموذج أن يُنشئ لها تفسيرات صالحة. تضمن التغطية المرتفعة أن نظام التفسير يمكنه العمل على غالبية الحالات التي تُواجه عملياً.
الكمون التوضيحي
الوقت الحسابي المطلوب لتوليد تفسير بعد أن ينتج النموذج توقعه. هذه المقاييس حاسمة للتطبيقات في الوقت الفعلي حيث يجب تقديم التفسيرات بسرعة.
الولاء المضاد للواقع
مقياس محدد لتقييم جودة التفسيرات المضادة للواقع من حيث الحد الأدنى للتغييرات المطلوبة ومعقولية السيناريوهات المُولدة. يضمن هذا المقياس أن المقترحات المضادة للواقع واقعية وقابلة للتنفيذ.