قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
نماذج الصندوق الأسود
نماذج التعلم الآلي التي لا يمكن ملاحظة آليات اتخاذ القرار الداخلية فيها أو فهمها مباشرة من قبل البشر. تتطلب هذه النماذج تقنيات شرح لاحقة (post-hoc) لتفسير تنبؤاتها.
نماذج الصندوق الأبيض
نماذج التعلم الآلي التي تكون بنيتها الداخلية شفافة بطبيعتها وقابلة للتفسير من قبل البشر دون الحاجة إلى أدوات إضافية. تعتبر أشجار القرار البسيطة والانحدارات الخطية أمثلة نموذجية.
تصورات الانتباه (Attention Visualization)
واجهات رسومية تمثل بصريًا آليات الانتباه لنماذج التعلم العميق، خاصة في الشبكات العصبية والمحولات (transformers). تسمح هذه التصورات بتحديد أجزاء بيانات الإدخال التي يركز عليها النموذج.
واجهات تشخيص النموذج
أنظمة تفاعلية تسمح للمحللين باستكشاف سلوك النموذج من خلال وجهات نظر ومستويات تفصيل مختلفة. غالبًا ما تجمع هذه الواجهات بين عدة تقنيات شرح لتوفير رؤية شاملة للنموذج.
تفسيرات محلية مقابل عالمية
التمييز بين التفسيرات المتعلقة بتنبؤ فردي (محلية) وتلك التي تصف السلوك العام للنموذج (عالمية). كلا المستويين من التفسير متكاملان لفهم شامل للنظام.
تفسيرات قائمة على القواعد
تفسيرات مصاغة على شكل قواعد منطقية سهلة الفهم للبشر، مستخلصة تلقائيًا من النماذج المعقدة. تترجم هذه القواعد سلوك النموذج إلى شروط بسيطة من نوع إذا-فإن.
التعلم الآلي التفاعلي
نموذج يتفاعل فيه البشر مباشرة مع أنظمة التعلم الآلي في الوقت الفعلي لتحسين الفهم المتبادل. يجمع هذا النهج بين الخبرة البشرية والقدرات الحسابية للنماذج.
تفسيرات سببية
تفسيرات تحدد علاقات السبب والنتيجة في قرارات النموذج، متجاوزة الارتباطات البسيطة. التفسيرات السببية ضرورية لفهم الآليات الكامنة وراء سلوك النموذج.
الجدارة بالثقة في الذكاء الاصطناعي
مفهوم متعدد الأبعاد يشمل الموثوقية والمتانة والإنصاف وقابلية التفسير لأنظمة الذكاء الاصطناعي. الجدارة بالثقة أمر بالغ الأهمية لتبني تقنيات الذكاء الاصطناعي في المجالات الحيوية.
لوحة تحكم قابلية التفسير
واجهة مركزية تجمع العديد من التصورات وأدوات التفسير لتمكين التحليل الشامل للنموذج. تسهل لوحات تحكم قابلية التفسير الاستكشاف التفاعلي للتنبؤات والسلوك العام للنموذج.
تفسيرات بمشاركة بشرية
أنظمة يتم فيها دمج التدخل البشري في عملية إنشاء وتصديق تفسيرات النموذج. يضمن هذا النهج أن تكون التفسيرات ذات صلة ومفهومة للمستخدمين النهائيين.
طرق قابلية التفسير
مجموعة رسمية من التقنيات الرياضية والخوارزمية التي تسمح باستخراج وتمثيل المعلومات القابلة للتفسير من النماذج المعقدة. تختلف هذه الطرق حسب نوع النموذج ومستوى التفسير المطلوب.
مخططات الاعتماد الجزئي
تصورات توضح التأثير الهامشي لخاصية واحدة أو خاصيتين على تنبؤ النموذج، عن طريق حساب المتوسط على المتغيرات الأخرى. تعتبر مخططات الاعتماد الجزئي مفيدة بشكل خاص لفهم العلاقات غير الخطية في النماذج المعقدة.