قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
FGSM (طريقة إشارة التدرج السريع)
طريقة لتوليد الأمثلة العدائية باستخدام إشارة تدرج دالة الخسارة بالنسبة للمدخلات لإنشاء اضطرابات قصوى ضمن حدود معيار إبسيلون.
PGD (الهبوط التدريجي المسقط)
خوارزمية هجوم تكرارية تعتمد على FGSM وتطبق عدة خطوات تدرج صغيرة مع الإسقاط لضمان بقاء الاضطرابات ضمن حد محدد مسبقاً.
المتانة العدائية
قدرة نموذج التعلم العميق على الحفاظ على أدائه في مواجهة الأمثلة العدائية المصممة بعناية لإضلال تنبؤاته.
العشوائية العدائية
نهج دفاعي يُدخل العشوائية في النموذج أو المدخلات أثناء الاستنتاج لجعل الهجمات القائمة على التدرج أقل فعالية وقابلية للتنبؤ.
طريقة مادري
صياغة التدريب العدائي كمشكلة تصغير-تكبير قوية باستخدام PGD لإيجاد أسوأ الاضطرابات في كل خطوة تدريب.
التدريب العدائي متعدد المقاييس
تقنية متقدمة تقوم بتوليد أمثلة عدائية بمقاييس دقة مختلفة ومستويات ضجيج لتحسين المتانة العامة للنموذج.
المشفر التلقائي الدفاعي
شبكة عصبية مدربة على إعادة بناء المدخلات الأصلية من النسخ الفاسدة، وبالتالي إزالة الاضطرابات العدائية قبل التصنيف.
التعلم التبايني العدائي
طريقة تدريب تستخدم أزواجاً من الأمثلة الإيجابية والسلبية لتعلم تمثيلات قوية تميز بشكل أفضل بين الأمثلة المشروعة والعدائية.
التنظيم الخصمي
مصطلح جزاء يُضاف إلى دالة الخسارة أثناء التدريب لتشجيع النموذج على امتلاك تدرجات أكثر استقرارًا وقرارات أكثر متانة.
التجميع الخصمي
استراتيجية دفاعية تجمع بين عدة نماذج ذات هياكل أو تدريبات مختلفة لتقليل الضعف أمام الهجمات التي تستهدف تكوينًا واحدًا.
التحقق المتقاطع الخصمي
طريقة تقييم قوية تختبر النموذج على مجموعات تحقق تحتوي على أمثلة خصمية تم إنشاؤها باستخدام تقنيات ومعاملات مختلفة.
إخفاء التدرج
ظاهرة يبدو فيها النموذج متينًا أمام الهجمات القائمة على التدرج بسبب تحسين محلي ضعيف، مما يخلق انطباعًا زائفًا بالأمان.
الحد الخصمي
حد رياضي يضمن عدم تدهور أداء النموذج ما بعد عتبة معينة أمام التشويشات ذات السعة المحدودة.
الضجيج العشوائي الدفاعي
تقنية تضيف ضجيجًا غاوسيًا أو موحدًا إلى المدخلات أثناء التدريب والاستدلال لإعاقة التدرجات المستخدمة في الهجمات الخصمية.
المعالجة المسبقة الدفاعية
خطوة تحويل تُطبق على المدخلات قبل التصنيف باستخدام مرشحات أو ضغط أو تحويلات للتخفيف من حدة التشويشات الخصمية.