قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
سرقة المعاملات
العملية التي يقوم فيها المهاجم باسترجاع الأوزان والتحيزات لشبكة عصبية مدربة من أجل إعادة إنشاء نسخة وظيفية من النموذج الأصلي دون الوصول المباشر إلى الملفات.
استخراج الميزات
طريقة تتضمن استنتاج خصائص التعلم والتمثيلات الداخلية لنموذج من خلال مراقبة سلوكياته أمام مدخلات متنوعة.
استعلامات معادية
مجموعة من المدخلات مصممة خصيصاً لاستكشاف حدود وسلوكيات نموذج بهدف استخراج معلومات حساسة حول بنيته أو معامله.
استنتاج النموذج
عملية استنتاج خصائص نموذج مستهدف (البنية، المعاملات الفائقة، بيانات التدريب) من خلال توقعاته وردوده على الاستعلامات.
النمذجة الظلية
تقنية يقوم فيها المهاجم بتدريب عدة نماذج بديلة لتقريب سلوك النموذج المستهدف، مما يسهل لاحقاً استخراج خصائصه الداخلية.
استنتاج العضوية
هجوم يهدف إلى تحديد ما إذا كان عينة بيانات معينة جزءاً من مجموعة بيانات تدريب نموذج ما، ويُستخدم غالباً كخطوة تمهيدية للاستخراج.
هجوم قائم على الاستعلام
استراتيجية هجوم تعتمد حصراً على إرسال استعلامات إلى واجهة برمجة التطبيقات (API) الخاصة بنموذج لاستنتاج هيكله ومعامله الداخلية تدريجياً.
هجوم استخراج الدالة
هجوم متخصص يهدف إلى إعادة إنتاج دالة القرار لنموذج ما بدلاً من معامله الدقيقة، من خلال إنشاء نموذج تقريبي بسلوك مكافئ.
استخراج المعاملات
تقنية متقدمة تتيح استعادة القيم الرقمية الدقيقة لأوزان الشبكة العصبية من خلال ملاحظة مخرجاتها لمختلف المدخلات.
إساءة استخدام واجهة برمجة التطبيقات
الاستخدام التعسفي لنقاط وصول خدمة الذكاء الاصطناعي لإجراء عدد مفرط من الطلبات بهدف استخراج معلومات حول النموذج الأساسي.
عكس النموذج
هجوم إعادة بناء حيث يستخدم المهاجم مخرجات النموذج لإعادة بناء بيانات التدريب الحساسة التي استُخدمت في تعلمه بشكل تقريبي.
هجوم تقطير المعرفة
استخدام خبيث لتقنيات تقطير المعرفة حيث يصبح النموذج المستهدف هو المعلم ويقوم المهاجم بإنشاء نموذج طالب يحاكي سلوكه.
بصمة النموذج
التعريف الفريد بنموذج من خلال خصائصه السلوكية المميزة، مما يتيح تتبع مصدره وتسهيل استخراجه المستهدف.
الاستخراج الصندوق الأبيض
هجوم يتمتع فيه المهاجم بوصول جزئي أو كامل إلى بنية النموذج، مما يسهل إلى حد كبير الاستخراج الدقيق لمعاملاته ووظائفه.
الاستخراج الصندوق الأسود
استخراج النموذج يتم دون معرفة مسبقة بالبنية الداخلية، بالاعتماد فقط على علاقات المدخلات والمخرجات التي تمت ملاحظتها عبر واجهة برمجة التطبيقات.
هجوم أوراكل
طريقة هجوم تعامل النموذج المستهدف كأوراكل يوفر إجابات للأسئلة، باستخدام هذه الإجابات لإعادة بناء منطقه الداخلي تدريجياً.
تحليل مساحة المخرجات
تحليل منهجي لمساحة مخرجات نموذج ما لتحديد الأنماط والعلاقات التي تتيح استنتاج بنيته الداخلية ومعاملاته.