قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
الذكاء الاصطناعي القابل للشرح (XAI)
مجموعة من التقنيات والأساليب التي تهدف إلى جعل قرارات أنظمة الذكاء الاصطناعي مفهومة للبشر، وهو أمر ضروري للثقة والقبول.
القابلية للتفسير
قدرة النموذج على تقديم قراراته بطريقة مفهومة للبشر، وتختلف عن الشفافية التي تتعلق بفهم الآلية الداخلية.
الشروحات بعد الحدث
طرق شرح تُطبق بعد تدريب النموذج دون تعديل هندسته، مما يسمح بشرح تنبؤات نماذج الصندوق الأسود.
شابلي (شروحات شابلي الجمعية)
نهج نظري مبني على نظرية الألعاب لتحديد أهمية كل ميزة في تنبؤ النموذج بطريقة جمعية ومتناسقة.
لايم (شروحات النماذج المحلية القابلة للتفسير والمستقلة عن النموذج)
تقنية شرح محلية تقترب من سلوك نموذج معقد بنموذج بسيط وقابل للتفسير في جوار تنبؤ محدد.
عوامل التأثير
عناصر محددة (عناصر، سمات، سلوكيات سابقة) ساهمت بشكل مباشر في توليد توصية معينة في نظام ما.
الشروحات المضادة
شروحات توضح لماذا لم يتم التوصية بعناصر معينة، مما يساعد المستخدمين على فهم حدود ومعايير الاستبعاد في النظام.
التبريرات السببية
شروحات مبنية على علاقات السبب والنتيجة بين إجراءات المستخدم والتوصيات المولدة، بدلاً من الارتباطات البسيطة.
نهج قائمة على المعرفة
طرق التوصية التي تستخدم علم الوجود أو رسوم بيانية للمعرفة لتوليد تفسيرات دلالية غنية وذات صلة بالسياق.
تصورات الشرح
تمثيلات رسومية تفاعلية تحول المبررات الخوارزمية إلى عناصر بصرية بديهية لتسهيل فهم المستخدم.
تخصيص الشروحات
تكيف محتوى الشروحات وأسلوبها ومستوى التفصيل حسب الملف الشخصي والتفضيلات وخبرة كل مستخدم.
التقييمات النوعية للشروحات
طرق التقييم القائمة على دراسات المستخدمين والمقابلات وتحليلات المحتوى لقياس الصلة والفائدة المدركة للشروحات.
التغذية الراجعة التفسيرية
آلية تتيح للمستخدمين التفاعل مع الشروحات المقدمة، مما يحسن التوصيات المستقبلية وجودة المبررات.
التعقيد التفسيري
قياس الصعوبة المعرفية المطلوبة لفهم شرح، يقيس التوازن بين الدقة الفنية وسهولة الوصول للمستخدم.
الشفافية الخوارزمية
مبدأ يتضمن الكشف عن الآليات والبيانات والمنطق الأساسي لنظام التوصية لضمان إمكانية تتبعه ومراجعته.
الثقة الخوارزمية
مستوى المصداقية والموثوقية التي يدركها المستخدمون تجاه نظام، يتأثر بشكل مباشر بجودة وصلة الشروحات المقدمة.
شروحات جوهرية
نماذج مصممة من تصميمها لتكون قابلة للتفسير، وتتكامل بشكل طبيعي مع قدرات الشرح على عكس الأساليب اللاحقة.
قواعد الارتباط التفسيرية
مجموعات من القواعد المنطقية (إذا-إذن) التي تبرر التوصيات من خلال إظهار العلاقات المكتشفة بين السلوكيات والعناصر.
التحيز التفسيري
تشوهات منهجية في الشروحات المولدة التي قد تفرط في تمثيل بعض العوامل أو تقلل من أهمية أخرى، مما يؤثر على الإدراك العادل للنظام.