قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
انحراف البيانات
تغير التوزيع الإحصائي لبيانات الإدخال في بيئة الإنتاج مقارنة ببيانات التدريب، مما قد يؤدي إلى تدهور أداء النموذج. من الضروري اكتشافه للحفاظ على صلة التوقعات.
انحراف المفهوم
تطور العلاقة بين متغيرات الإدخال والمتغير الهدف، حيث يتغير المعنى أو سياق المشكلة. هذا النوع من الانحراف أكثر خبثًا لأن توزيعات الإدخال قد تظل مستقرة.
مراقبة الأداء
المتابعة المستمرة لمقاييس تقييم النموذج (الدقة، الاستدعاء، درجة F1، إلخ) على البيانات الحقيقية لتحديد أي تدهور. تسمح بإطلاق التنبيهات وإجراءات إعادة التدريب.
لوحة التحكم للتعلم الآلي
واجهة عرض مركزية تجمع مقاييس المراقبة الرئيسية، تنبيهات الانحراف، وحالة صحة النماذج في بيئة الإنتاج. تسهل اتخاذ القرار لفرق MLOps.
التنبيه التلقائي
نظام إشعارات يتم تشغيله بواسطة عتبات محددة مسبقًا على مقاييس الأداء أو مؤشرات الانحراف. يضمن استجابة سريعة لشذوذات سلوك النموذج.
مقياس الاستقرار
مؤشر ي quantifies التشابه بين توزيع البيانات الحالية وتوزيع المرجع (التدريب). تُستخدم مقاييس مثل تباعد كولباك-ليبلر أو مؤشر استقرار السكان بشكل شائع.
تحليل أهمية الميزات
مراقبة تطور تأثير كل متغير إدخال على تنبؤات النموذج. يمكن أن يشير التغير المفاجئ إلى انحراف البيانات أو تعديل في سلوك النموذج.
القابلية للتفسير في بيئة الإنتاج
مراقبة شروح التنبؤات (مثل: SHAP، LIME) للتأكد من أن النموذج يستخدم دائمًا نفس المنطق والميزات. هذا ضروري للثقة وقابلية التدقيق في الأنظمة الحرجة.
كشف التنبؤات غير الطبيعية
التعرف على التنبؤات الشاذة أو ذات الثقة المنخفضة بشكل غير طبيعي، والتي قد تشير إلى تدهور النموذج أو وجود بيانات خارج توزيعه المعروف. إنها طبقة أمان للأتمتة.
زمن الاستجابة للتنبؤ
مقياس يقيس الوقت المنقضي بين استلام طلب وإرجاع التنبؤ بواسطة النموذج. مراقبته حيوية للتطبيقات في الوقت الفعلي حيث أن زمن الاستجابة العالي يؤثر على تجربة المستخدم.
التحيز في بيئة الإنتاج
المراقبة المستمرة لمؤشرات العدالة والتحيز في النموذج على البيانات الحقيقية للتأكد من أنه لا يميز ضد مجموعات معينة. المراقبة ضرورية لأن التحيز قد يظهر أو يزداد مع الانحراف.
التسجيل الهيكلي
تسجيل المدخلات والتنبؤات والبيانات الوصفية ومقاييس الأداء في صيغة منظمة (مثل: JSON). يسهل هذا التحليل اللاحق وتصحيح الأخطاء وتغذية خطوط المراقبة.
إصدارات النماذج
تتبع وإدارة الإصدارات المختلفة لنموذج مدرب، غالبًا عبر سجل النماذج (Model Registry). يجب أن تكون المراقبة قادرة على التمييز بين أداء كل إصدار منشور.
حلقة التغذية الراجعة
عملية جمع الملاحظات حول تنبؤات النموذج (تصحيحات، تعليقات توضيحية) لتغذية دورات التدريب المستقبلية. مراقبة جودة وحجم هذا التغذية الراجعة هو مؤشر على صحة النظام.