قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
التفسيرية (XAI)
مجموعة من التقنيات والطرق التي تتيح جعل قرارات نماذج الذكاء الاصطناعي مفهومة للبشر، وهي أساسية للامتثال التنظيمي وثقة المستخدمين.
القابلية للتفسير
قدرة نموذج الذكاء الاصطناعي على عرض آلياته الداخلية بطريقة مفهومة، مميزة بين القابلية للتفسير الجوهرية (نماذج شفافة) والقابلية للتفسير اللاحقة.
حق التفسير في اللائحة العامة لحماية البيانات (RGPD)
التزام قانوني على المنظمات بتقديم تفسير واضح وذو معنى للقرارات الآلية التي تؤثر على الأفراد، وفقًا للمادة 22 من اللائحة العامة لحماية البيانات.
تدقيق الخوارزميات
عملية منهجية لتقييم خوارزميات الذكاء الاصطناعي للتحقق من امتثالها للمتطلبات القانونية والأخلاقية والتقنية، بما في ذلك اختبارات الانحياز والتوثيق.
الصندوق الأسود
نموذج ذكاء اصطناعي تكون آلياته الداخلية غير واضحة ويصعب تفسيرها، مما يشكل تحديات كبيرة للتدقيق التنظيمي والشفافية.
SHAP (التفسيرات المضافة لشابلي)
طريقة تفسير تعتمد على نظرية الألعاب تقيس تأثير كل خاصية على التنبؤ، وتوفر ضمانات نظرية للتدقيق التنظيمي.
LIME (التفسيرات المحلية القابلة للتفسير المستقلة عن النموذج)
تقنية تفسير محلية تشرح التنبؤات الفردية بتقريب النموذج المعقد بنموذج بسيط قابل للتفسير محليًا.
أهمية الميزات
قياس كمي للتأثير النسبي لكل متغير إدخال على تنبؤات النموذج، وهو أساسي لتوثيق العوامل القرارية في التدقيق.
الواقعية المضادة
تفسيرات توضح التعديلات الدنيا لخصائص المدخلات التي من شأنها تغيير قرار النموذج، مما يساعد في فهم وتحديد القرارات الآلية.
توثيق النموذج
سجل منظم وكامل لخصائص النموذج، أدائه، حدوده وعمليات اتخاذ القرار، مطلوب للامتثال التنظيمي.
تتبع القرارات
القدرة على متابعة وتوثيق عملية اتخاذ القرار الكاملة لنظام الذكاء الاصطناعي، من بيانات المدخلات حتى المخرجات النهائية، ضرورية للتدقيق القانوني.
تقييم تأثير الذكاء الاصطناعي
تقييم منهجي للمخاطر المحتملة لنظام الذكاء الاصطناعي على الحقوق الأساسية والمجتمع، إلزامي وفقًا للتنظيم الأوروبي للذكاء الاصطناعي.
التبرير القراراتي
التزام بتقديم أسباب واضحة ومحددة تدعم كل قرار آلي، مما يسمح للأفراد بفهم وتحديد النتائج.
مقاييس العدالة
مؤشرات كمية تقيس التحيزات والتمييز المحتمل في القرارات الخوارزمية، أساسية للامتثال للأنظمة المضادة للتمييز.
اختبارات المتانة
تقييمات منهجية لاستقرار تنبؤات النموذج في مواجهة تغيرات بيانات المدخلات، مما يضمن الموثوقية المطلوبة للتدقيق التنظيمي.
تحليل الحساسية الشامل
طريقة تقييم التأثير الشامل لكل متغير على تنبؤات النموذج عبر جميع البيانات، مما يوفر نظرة شاملة للتدقيق التنظيمي.
سجل الخوارزميات
قاعدة بيانات مركزية تسرد جميع خوارزميات الذكاء الاصطناعي المستخدمة من قبل منظمة، مع خصائصها ومستويات المخاطر، المطلوبة للشفافية التنظيمية.