Глоссарий ИИ
Полный словарь искусственного интеллекта
Атака evasion
Техника атаки, которая незаметно изменяет входные данные, чтобы обмануть модель ИИ на этапе вывода, не искажая человеческое восприятие информации.
Атака DeepFool
Итеративный алгоритм, вычисляющий минимальное расстояние до границ принятия решений для создания противоречивых примеров с наименьшими возможными возмущениями.
Универсальное противоречивое возмущение
Уникальное возмущение, способное эффективно обманывать модель на широком спектре различных входных данных без необходимости пересчета для каждого образца.
Атака с использованием переносимости
Использование феномена, при котором противоречивые примеры, созданные для одной модели, остаются эффективными против других моделей с разной архитектурой.
Атака на основе расстояния Lp
Семейство атак, измеряющих и ограничивающих амплитуду возмущений в соответствии с различными нормами (L0, L1, L2, L∞) для контроля их заметности.
Атака на основе оценок
Атака «черного ящика», использующая оценки уверенности модели для оценки градиентов и создания эффективных противоречивых примеров.
Атака на основе решений
Экстремальная атака «черного ящика», использующая только предсказанные моделью выходные метки для генерации противоречивых возмущений.
Физическая атака
Атака, при которой противоречивые возмущения применяются к физическим объектам для обмана систем ИИ в реальных условиях.
Attaque Zero-Day
Attaque qui exploite des vulnérabilités inconnues du système de défense, rendant les mécanismes de détection traditionnels inefficaces.
Attaque par Encodage
Technique qui modifie les représentations encodées des données plutôt que les données brutes pour contourner les défenses basées sur l'entrée.
Attaque par Transformation
Attaque qui applique des transformations géométriques (rotation, translation) aux données d'entrée pour tromper le modèle sans modifications de pixels directes.
Attaque EOT (Expectation over Transformation)
Technique d'optimisation qui rend les attaques robustes aux variations aléatoires en optimisant sur une distribution de transformations possibles.
Attaque par AutoEncodeur Adversarial
Méthode qui utilise des autoencodeurs pour générer des perturbations imperceptibles tout en préservant la sémantique originale des données.