قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
هجمات الصندوق الأبيض
هجمات يعرف فيها المهاجم تماماً بنية ومعاملات النموذج المستهدف.
هجمات الصندوق الأسود
هجمات تُنفذ دون معرفة داخلية بالنموذج، فقط عبر التفاعل مع مدخلاته ومخرجاته.
هجمات الإفلات
اضطرابات دقيقة في بيانات الإدخال لخداع النموذج أثناء الاستنتاج.
هجمات التسميم
حقن بيانات خبيثة في مجموعة التدريب للمساس بالنموذج.
هجمات استخراج النموذج
سرقة المعاملات أو الوظائف لنموذج خاص عبر استعلامات متكررة
هجمات استنتاج الانتماء
تحديد ما إذا كانت نقطة بيانات محددة جزءاً من مجموعة التدريب
الدفاع بالتدريب الخصمي
تدريب النموذج على أمثلة خصمية مُولدة لتحسين متانته
الدفاع عبر اكتشاف الهجمات
آليات لتحديد ورفض المدخلات العدائية المحتملة.
الدفاع عن طريق إخفاء التدرج
تقنيات إخفاء التدرجات لمنع الهجمات القائمة على التحسين.
هجمات على الرؤية الحاسوبية
هجمات مصممة خصيصاً لخداع نماذج تصنيف الصور واكتشاف الأجسام.
هجمات على معالجة اللغة الطبيعية
تشويشات نصية دقيقة لخداع نماذج معالجة اللغة الطبيعية.
هجمات النقل
هجمات مُولَّدة على نموذج مصدر ولكنها فعالة ضد نماذج مستهدفة مختلفة.
الدفاع بالعشوائية
إدخال العشوائية في عملية الاستدلال لإرباك الهجمات
هجمات على النماذج الصوتية
اضطرابات صوتية غير محسوسة مصممة لخداع أنظمة التعرف الصوتي.
تقييم المتانة
مقاييس ومعايير لقياس مقاومة النماذج ضد الهجمات العدائية