قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
المتانة عبر النقل
قدرة النموذج على مقاومة الهجمات العدائية التي صُممت في الأصل لهياكل أخرى، مما يقيس عمومية الدفاعات ضد التهديدات غير المعروفة.
النموذج المصدر
النموذج المرجعي المستخدم لتوليد هجمات عدائية في سياق هجمات النقل، ويخدم كنقطة انطلاق لاختراق النماذج المستهدفة.
النموذج المستهدف
النموذج الضحية الذي تستهدفه هجمة النقل، حيث يتم استغلال نقاط ضعفه من خلال اضطرابات مُولدة على نموذج مصدر منفصل.
مساحة الهجوم
المجال الرياضي الذي يحدد جميع الاضطرابات الممكنة التي يمكن تطبيقها على بيانات الإدخال لاختراق نموذج ما، وهو أمر حاسم لتقييم قابلية نقل الهجمات.
تعميم الهجوم
خاصية الهجوم العدائي في الحفاظ على فعاليته عبر عدة نماذج أو حالات لنفس النموذج، بغض النظر عن بنيتهما أو معلماتهما المحددة.
طريقة المجموعة
استراتيجية هجوم تجمع بين عدة نماذج مصدرية لتوليد اضطرابات أكثر متانة وقابلية للنقل، مما يزيد بشكل كبير من معدل النجاح ضد الأهداف غير المعروفة.
هجمة No-Box
نوع من هجمات النقل المتطرفة حيث لا يمتلك المهاجم أي معلومات عن النموذج المستهدف، ويعتمد فقط على قابلية النقل الشاملة للاضطرابات.
المسافة القياسية
مقياس رياضي (L0, L1, L2, L∞) يكمّن سعة الاضطرابات العدائية، وهو ضروري لتقييم قابلية النقل مع الحفاظ على عدم إدراك الهجمة.
حد القابلية للنقل
الحد النظري الأعلى الذي يحدد الحد الأقصى لمعدل نجاح هجوم النقل بين نموذجين، بناءً على التشابه الهيكلي والوظيفي بينهما.
تنوع النماذج
مقياس التباين بين البنى والمعاملات ومجموعات بيانات التدريب للنماذج المختلفة، مما يؤثر بشكل مباشر على قابلية نقل الهجمات الخصائية.
محاذاة التدرجات
التشابه الاتجاهي بين تدرجات النماذج المختلفة، والذي يُعد مؤشراً تنبوياً للقابلية المحتملة لنقل الهجمات بين هذه النماذج.
الدفاع بالنقل
نهج دفاعي يستغل قابلية نقل الهجمات لتطوير حماية قوية تعمل ضد تهديدات غير معروفة ونماذج هجوم مستقبلية.
تجنب النموذج
هدف هجمات النقل المتمثل في تجاوز آليات الكشف أو التصنيف لنموذج ما دون أن يتم اكتشافه، من خلال استغلال نقاط ضعفه العامة.
سطح القرار
حدود رياضية تفصل بين فئات التنبؤ المختلفة لنموذج، حيث يحدد التشابه بين النماذج النجاح المحتمل لهجمات النقل.
الحساسية بالنقل
مقياس كمي للضعف المشترك بين نماذج مختلفة تجاه نفس الاضطرابات الخصائية، مما يكشف عن نقاط ضعف نظامية في التعلم الآلي.
مقياس القابلية للنقل
مؤشر كمي يقيم احتمالية نجاح هجوم تم إنشاؤه على نموذج المصدر في اختراق نموذج الهدف، بناءً على تشابهات هيكلية أو سلوكية.