قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
Inférence d'Appartenance
Type d'attaque de confidentialité où un adversaire détermine si un enregistrement de données spécifique a été utilisé dans l'ensemble d'entraînement d'un modèle, violant la vie privée des individus.
Attaque par Inversion
Attaque qui reconstruit approximativement les données d'entraînement sensibles en analysant les sorties du modèle, menaçant la confidentialité des informations utilisées pour son apprentissage.
Différentielle de la Vie Privée
Cadre formel de confidentialité garantissant que la sortie d'un modèle change de manière négligeable si un seul individu est ajouté ou retiré du jeu de données d'entraînement.
Défense par Masquage Gradient
Technique de protection visant à obscurcir les gradients du modèle pour empêcher les attaquants d'utiliser des méthodes basées sur les gradients pour générer des attaques adversariales efficaces.
Fédération de l'Apprentissage
Approche d'entraînement décentralisée où le modèle est appris sur des données locales sans les partager, réduisant le risque de fuites de données sensibles depuis un référentiel central.
Backdoor dans un Modèle
Vulnérabilité introduite intentionnellement dans un modèle, souvent via un empoisonnement des données, qui le fait se comporter anormalement en présence d'un déclencheur spécifique.
Robustesse de Modèle
Capacité d'un modèle de machine learning à maintenir ses performances face à des perturbations des données d'entrée, y compris les bruits aléatoires et les attaques adversariales ciblées.
Certification de Robustesse
Processus mathématique fournissant une garantie formelle qu'un modèle ne peut pas être trompé par des perturbations d'entrée dépassant une certaine magnitude définie.
هجوم القابلية على النقل
ظاهرة يقوم فيها المثال العدائي المصمم لخداع نموذج محدد بإضلال نماذج أخرى ذات هياكل مختلفة أو بيانات تدريب مختلفة أيضاً.
تنظيف مجموعة البيانات
عملية استباقية للتعرف على العينات الخبيثة أو غير الطبيعية المحتملة وإزالتها من مجموعة البيانات قبل التدريب لمنع هجمات التسمم.
مقياس الحساسية
قياس كمي يقيم مدى تغير تنبؤات النموذج استجابة لتغييرات طفيفة في بيانات الإدخال الخاصة به، مما يشير إلى ضعفه أمام الهجمات.