قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
إدارة مخاطر النماذج
مجموعة من الممارسات والضوابط التي تهدف إلى تحديد وتقييم ومراقبة وتخفيف المخاطر المرتبطة بتطوير ونشر نماذج التعلم الآلي، وخاصة المخاطر التشغيلية والتنظيمية والأخلاقية.
الذكاء الاصطناعي القابل للشرح (XAI)
مجموعة من التقنيات والأساليب التي تجعل قرارات نماذج الذكاء الاصطناعي مفهومة وقابلة للتفسير من قبل البشر، وهو أمر ضروري للتدقيق والثقة والامتثال التنظيمي.
سجل تدقيق النموذج
سجل زمني وغير قابل للتعديل يسجل جميع الإجراءات والتعديلات التي تم إجراؤها على النموذج طوال دورة حياته، من إنشائه حتى وضعه في الإنتاج، لضمان إمكانية التتبع والامتثال.
تقييم الأثر الخوارزمي (AIA)
عملية تقييم منهجي للعواقب المحتملة لنظام خوارزمي على الأفراد والمؤسسات والمجتمع، بهدف تحديد وتخفيف الآثار السلبية قبل النشر.
مؤشر العدالة
مؤشر كمي يستخدم لقياس وتقييم مستوى عدالة نموذج الذكاء الاصطناعي، بالتحقق مما إذا كانت تنبؤاته تظهر تحيزات منهجية ضد المجموعات السكانية المحمية.
الامتثال ككود
ممارسة تتمثل في أتمتة التحقق وتطبيق سياسات الامتثال التنظيمي والمؤسسي مباشرة في خط تطوير ونشر نماذج الذكاء الاصطناعي.
مراقبة انحراف النموذج
عملية مستمرة لمراقبة أداء النموذج في الإنتاج لتحديد التدهور الناتج عن التغيرات في توزيعات البيانات (انحراف البيانات) أو في العلاقات بين المتغيرات (انحراف المفهوم).
صندوق الرقابة التنظيمي
بيئة خاضعة للرقابة والإشراف من قبل السلطات التنظيمية، مما يسمح للشركات باختبار الابتكارات في الذكاء الاصطناعي مع تخفيفات مؤقتة لبعض الالتزامات التنظيمية، تحت إشراف دقيق.
تقرير شفافية النموذج
وثيقة عامة تصف بالتفصيل خصائص وأداء وقيود وتأثيرات نموذج الذكاء الاصطناعي المنشور، تهدف إلى إعلام المستخدمين والجهات التنظيمية عن عمله وإدارته.
تحليل تأثير أصحاب المصلحة
طريقة تقييم منهجية لآثار نظام الذكاء الاصطناعي على جميع أصحاب المصلحة المعنيين، بما في ذلك المستخدمين النهائيين والموظفين والعملاء والمجتمع بشكل عام.
مصفوفة مساءلة النموذج
أداة حوكمة تحدد وتوثق بوضوح الأدوار والمسؤوليات والالتزامات لكل جهة فاعلة مشاركة في دورة حياة النموذج، من التطوير إلى الصيانة في بيئة الإنتاج.