قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
كشف الشذوذ العدائي
عملية تحديد العينات الخبيثة المصممة لخداع نماذج الذكاء الاصطناعي من خلال تحليل التباينات الإحصائية مقارنة بالبيانات المشروعة. تستخدم هذه الطريقة تقنيات التعلم غير الخاضع للإشراف للكشف عن الأنماط غير الطبيعية في فضاء الميزات.
المصنف الثنائي للكشف
نموذج تعلم آلي تم تدريبه خصيصاً للتمييز بين المدخلات العادية والمدخلات المحتمل أن تكون عدائية قبل مرورها إلى النموذج الرئيسي. يعمل هذا النظام كخط دفاع أول من خلال تصفية العينات المشبوهة بشكل استباقي.
عتبة الثقة العدائية
قيمة حرجة للثقة محددة مسبقاً تُستخدم لرفض التوقعات عندما يظهر النموذج درجة عدم يقين مرتفعة أو منخفضة بشكل غير طبيعي. غالباً ما تؤدي المدخلات العدائية إلى توزيعات احتمالية غير نمطية تتيح هذه العتبة تحديدها.
الكشف عبر إعادة البناء بالمشفر التلقائي
تقنية تستخدم المشفرات التلقائية المدربة على بيانات مشروعة للكشف عن الهجمات بناءً على خطأ إعادة البناء المرتفع للعينات العدائية. تظهر المدخلات الخبيثة عادةً أخطاء في إعادة البناء أعلى بشكل ملحوظ من البيانات العادية.
الكشف عبر تباين التوزيع
طريقة تحلل الفروق بين توزيع المدخلات المختبرة وتوزيع بيانات التدريب لتحديد العينات المحتمل تلفها. تستند هذه المقاربة إلى مبدأ أن الهجمات العدائية تخلق توزيعات غير طبيعية في الفضاء الكامن.
درجة الكشف العدائي
مقياس كمي يقيّم احتمالية أن تكون المدخلة عدائية بناءً على مؤشرات متعددة مثل حجم التدرج وحساسية النموذج. تتيح هذه الدرجة المركبة اتخاذ قرار دقيق بشأن الطبيعة الخبيثة أو المشروعة للعينة.
الكشف عبر تحليل التدرج
تقنية تفحص خصائص تدرج دالة الخسارة لتحديد الاضطرابات العدائية الدقيقة. غالباً ما تولد الهجمات تدرجات بخصائص إحصائية مميزة يمكن اكتشافها بهذه الطريقة.
نظام الكشف المتتالي
بنية متعددة المستويات يتم فيها تنفيذ عدة كواشف متخصصة بشكل تسلسلي لتحديد أنواع مختلفة من الهجمات العدائية. تقوم كل مستوى بتصفية التهديدات تدريجياً مع تقليل الإيجابيات الكاذبة على البيانات المشروعة.
الكشف عن طريق مسافة ماهالانوبيس
مقياس إحصائي يقيم بعد عينة عن توزيع البيانات المشروعة في فضاء الميزات. النقاط البعيدة وفقًا لهذا المقياس الموزون من المحتمل أن تكون هجمات معادية.
التحقق من الاتساق الدلالي
عملية تتحقق من الاتساق المنطقي بين ميزات إدخال معين للكشف عن التناقضات التي تفرضها الهجمات. غالبًا ما تظهر العينات المعادية تناقضات دلالية دقيقة بين أجزاء مختلفة من البيانات.
الكشف عن طريق التعلم الفوقي
نهج يتعلم فيه نموذج فوقي التعرف على أنماط الهجمات من خلال التدريب على أنواع متنوعة من الأمثلة المعادية التي تم إنشاؤها بطرق مختلفة. توفر هذه التقنية تعميمًا محسّنًا في مواجهة الهجمات غير المعروفة.
معايرة الدفاع ضد الهجمات المعادية
عملية ضبط معلمات الكشف لتحسين التوازن بين معدل الكشف ومعدل الإيجابيات الكاذبة وفقًا لسياق التطبيق. تضمن المعايرة حماية فعالة دون التقليل بشكل مفرط من الأداء على البيانات المشروعة.
الكشف عن طريق تحليل الحساسية
طريقة تقيم كيف تؤثر الاضطرابات الصغيرة على مخرجات النموذج لتحديد المدخلات غير الطبيعية الحساسية. تظهر العينات المعادية عادةً حساسية غير متناسبة مقارنة بالبيانات الطبيعية.
نظام الدفاع الهجين
دمج لتقنيات كشف متعددة ومتكاملة لتحسين المتانة العامة ضد أنواع مختلفة من الهجمات المعادية. تستغل هذه المنهجية التآزرية نقاط قوة كل طريقة مع تعويض نقاط ضعفها.
الكشف عن طريق التحقق من متعدد الشعب
تقنية تتحقق مما إذا كانت العينة تقع على متعدد الشعب (Manifold) للبيانات المشروعة الذي تم تعلمه أثناء تدريب النموذج. غالبًا ما تنشئ الهجمات المعادية نقاطًا تبتعد بشكل كبير عن هذا متعدد الشعب للبيانات.
عتبة الكشف الديناميكية
آلية تكيفية تقوم بضبط عتبات الكشف تلقائيًا بناءً على خصائص البيانات في الوقت الفعلي لتحسين الأداء. تحافظ هذه المنهجية على كفاءة ثابتة في مواجهة توزيعات البيانات المتطورة.
الكشف عبر تحليل الاضطراب
طريقة تحدد أنماط الاضطراب المميزة للهجمات العدائية من خلال تحليل التعديلات المطبقة على المدخلات الأصلية. تركز هذه التقنية على هيكل التغييرات بدلاً من القيم المطلقة.
الكشف عبر تحليل الاتساق
تقنية تتحقق من اتساق تنبؤات النموذج تحت تحولات أو ظروف مختلفة لتحديد السلوكيات العدائية. غالباً ما تسبب الهجمات تناقضات كاشفة تحت تغييرات طفيفة في المدخلات.