Глоссарий ИИ
Полный словарь искусственного интеллекта
Inférence d'Appartenance
Type d'attaque de confidentialité où un adversaire détermine si un enregistrement de données spécifique a été utilisé dans l'ensemble d'entraînement d'un modèle, violant la vie privée des individus.
Attaque par Inversion
Attaque qui reconstruit approximativement les données d'entraînement sensibles en analysant les sorties du modèle, menaçant la confidentialité des informations utilisées pour son apprentissage.
Différentielle de la Vie Privée
Cadre formel de confidentialité garantissant que la sortie d'un modèle change de manière négligeable si un seul individu est ajouté ou retiré du jeu de données d'entraînement.
Défense par Masquage Gradient
Technique de protection visant à obscurcir les gradients du modèle pour empêcher les attaquants d'utiliser des méthodes basées sur les gradients pour générer des attaques adversariales efficaces.
Fédération de l'Apprentissage
Approche d'entraînement décentralisée où le modèle est appris sur des données locales sans les partager, réduisant le risque de fuites de données sensibles depuis un référentiel central.
Backdoor dans un Modèle
Vulnérabilité introduite intentionnellement dans un modèle, souvent via un empoisonnement des données, qui le fait se comporter anormalement en présence d'un déclencheur spécifique.
Robustesse de Modèle
Capacité d'un modèle de machine learning à maintenir ses performances face à des perturbations des données d'entrée, y compris les bruits aléatoires et les attaques adversariales ciblées.
Certification de Robustesse
Processus mathématique fournissant une garantie formelle qu'un modèle ne peut pas être trompé par des perturbations d'entrée dépassant une certaine magnitude définie.
Атака с переносимостью
Явление, при котором противоречивый пример, разработанный для обмана конкретной модели, также способен вводить в заблуждение другие модели с различными архитектурами или данными обучения.
Очистка набора данных
Проактивный процесс выявления и удаления потенциально вредоносных или аномальных образцов из набора данных перед обучением для предотвращения атак отравления.
Метрика чувствительности
Количественная мера, оценивающая, насколько предсказания модели изменяются в ответ на небольшие изменения во входных данных, указывающая на её уязвимость к атакам.