قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
هجوم استنتاج السمات
هجوم يحاول فيه الخصم استنتاج سمات حساسة غير موجودة في بيانات التدريب من تنبؤات النموذج. يستغل هذا الهجوم الارتباطات الضمنية التي تعلمها النموذج للكشف عن معلومات خاصة عن الأفراد.
هجوم النموذج الظل
هجوم يقوم فيه الخصم بتدريب نماذج بديلة على بيانات اصطناعية لمحاكاة سلوك النموذج الهدف. تسمح هذه النماذج الظلية بإنشاء أمثلة تدريب لبناء مصنف هجوم فعال.
كم تسرب الخصوصية
منهجيات منهجية لقياس وتقييم كمية المعلومات الخاصة التي يكشف عنها نموذج التعلم الآلي. تساعد هذه المقاييس في تحديد مخاطر التسرب وتقييم فعالية آليات الحماية.
دفاع الخصوصية المعاكس
تقنيات دفاع استباقية تدمج قيود الخصوصية مباشرة في هدف تدريب النموذج. تحسن هذه الطرق أداء النموذج ومقاومته لهجمات الاستنتاج في آن واحد.
تقطيع المعرفة للخصوصية
تقنية يتم فيها استخدام نموذج معلم خاص لتدريب نموذج طالب عام، مما ينقل المعرفة مع إخفاء المعلومات الحساسة. يقلل هذا النهج من قدرة النموذج النهائي على حفظ تفاصيل محددة لبيانات التدريب.
تصميم نموذج واعٍ بالخصوصية
مبادئ التصميم المعماري التي تدمج آليات حماية الخصوصية منذ تصميم النموذج. تشمل هذه المقاربة تقييد قدرة النموذج وإضافة تنظيم وتصميم مخرجات أقل إفصاحاً.
هجوم استخراج النموذج
هجوم يحاول فيه الخصم استنساخ أو سرقة نموذج مملوك من خلال الاستفسار عن تنبؤاته وتدريب نموذج بديل. يمكن أن يكشف هذا الهجوم أيضاً عن معلومات حول بيانات التدريب الأصلية.