قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
الذكاء الاصطناعي القابل للشرح (XAI)
مجموعة من التقنيات والأساليب التي تجعل أنظمة الذكاء الاصطناعي مفهومة للبشر، عن طريق تحويل عمليات صنع القرار المعقدة إلى تفسيرات قابلة للفهم.
التفسير المحلي
القدرة على شرح تنبؤ نموذج لحالة محددة، من خلال تحديد الخصائص التي أثرت على هذا القرار الخاص.
التفسير الشامل
الفهم الشامل لسلوك نموذج ذكاء اصطناعي، عن طريق شرح كيفية اتخاذه للقرارات بشكل عام على مجموعة البيانات بأكملها.
الصندوق الأسود
نظام ذكاء اصطناعي يكون عمله الداخلي غامضاً أو غير مفهوم للبشر، مما يجعل من الصعب شرح قراراته وعمليات التفكير الخاصة به.
LIME (الشروحات التوضيحية لنماذج التفسير المحلية)
تقنية تفسير تشرح التنبؤات الفردية عن طريق إنشاء نماذج محلية بسيطة تقوم بتقريب سلوك النموذج المعقد حول التنبؤ المحدد.
SHAP (الشروحات الإضافية لشابلي)
طريقة شرح مبنية على نظرية الألعاب تقوم بتحديد تأثير كل خاصية على التنبؤ النهائي عن طريق توزيع الفضل بشكل عادل بين جميع الخصائص.
تتبع القرارات
القدرة على تتبع وتوثيق كل خطوة في عملية صنع القرار لنظام ذكاء اصطناعي، من بيانات الإدخال حتى النتيجة النهائية، لضمان إمكانية المراجعة.
إمكانية مراجعة الذكاء الاصطناعي
إمكانية فحص نظام ذكاء اصطناعي بشكل منهجي لتقييم توافقه مع المعايير واللوائح والمتطلبات الأخلاقية، خاصة فيما يتعلق بالتحيز والتمييز.
تفسيرية النماذج
قدرة نظام الذكاء الاصطناعي على توفير مبررات مفهومة ومتماسكة لقراراته، مما يسمح للمستخدمين بفهم التفكير الكامن وراءها.
أهمية الميزات
قياس كمي لتأثير كل متغير إدخال على تنبؤات النموذج، مما يسمح بتحديد العوامل الأكثر حاسمة في اتخاذ القرار.
تصور القرارات
تقنيات رسومية تمثل عملية اتخاذ القرار لنموذج ذكاء اصطناعي، مما يسمح للمستخدمين بفهم كيفية توليد التنبؤات بشكل بديهي.
الشروحات فوقية
شروحات من المستوى الثاني تصف لماذا ينتج نموذج الذكاء الاصطناعي شروحات معينة بدلاً من أخرى، مما يزيد من الثقة في نظام الشرح نفسه.
التقارير الآلية
أنظمة تولد تقارير مفصلة تلقائياً لشرح قرارات الذكاء الاصطناعي، بما في ذلك البيانات المستخدمة والمنطق المتبع ومستويات الثقة.
التحقق البشري
عملية يقوم بها خبراء بشريون بفحص والتحقق من الشروحات التي يقدمها أنظمة الذكاء الاصطناعي لضمان صلتها ودقتها.
توثيق النماذج
تسجيل منظم وشامل لخصائص وأداء وحدود وسلوكيات نموذج ذكاء اصطناعي لضمان شفافيته وقابليته لإعادة الاستخدام.
تشخيص التحيز
تحليل منهجي لقرارات نموذج لتحديد وقياس وفهم التمييزات المحتملة بناءً على خصائص محمية أو حساسة.
خرائط الحرارة للانتباه
تصورات تعرض المناطق أو الخصائص التي يركز عليها نموذج الذكاء الاصطناعي بشكل خاص لاتخاذ قراره، مما يسهل فهم منطقه.