Глоссарий ИИ
Полный словарь искусственного интеллекта
Обнаружение состязательных аномалий
Процесс выявления вредоносных выборок, разработанных для обмана моделей ИИ, путем анализа статистических расхождений с легитимными данными. Этот метод использует методы обучения без учителя для обнаружения аномальных паттернов в пространстве признаков.
Бинарный классификатор обнаружения
Модель машинного обучения, обученная специально для различения нормальных входных данных и потенциально состязательных входных данных перед их передачей в основную модель. Эта система действует как первая линия защиты, проактивно отфильтровывая подозрительные выборки.
Порог состязательного доверия
Предопределенное критическое значение доверия, используемое для отклонения прогнозов, когда модель демонстрирует аномально высокую или низкую неопределенность. Состязательные входные данные часто вызывают нетипичные распределения вероятностей, которые позволяет выявить этот порог.
Обнаружение путем реконструкции автоэнкодером
Техника, использующая автоэнкодеры, обученные на легитимных данных, для обнаружения атак на основе высокой ошибки реконструкции состязательных выборок. Вредоносные входные данные обычно имеют ошибку реконструкции значительно выше, чем нормальные данные.
Обнаружение по расхождению распределений
Метод, анализирующий сдвиги между распределением тестируемых входных данных и распределением обучающих данных для выявления потенциально скомпрометированных выборок. Этот подход основан на принципе, что состязательные атаки создают аномальные распределения в латентном пространстве.
Оценка состязательного обнаружения
Количественная метрика, оценивающая вероятность того, что входные данные являются состязательными, на основе множества показателей, таких как величина градиента и чувствительность модели. Этот составной показатель позволяет принять взвешенное решение о вредоносном или легитимном характере выборки.
Обнаружение путем анализа градиента
Техника, исследующая характеристики градиента функции потерь для выявления тонких состязательных возмущений. Атаки часто генерируют градиенты с отличительными статистическими свойствами, обнаруживаемыми этим методом.
Каскадная система обнаружения
Многоуровневая архитектура, в которой несколько специализированных детекторов выполняются последовательно для выявления различных типов состязательных атак. Каждый уровень постепенно отфильтровывает угрозы, минимизируя количество ложноположительных срабатываний на легитимных данных.
Détection par Distance de Mahalanobis
Mesure statistique évaluant l'éloignement d'un échantillon par rapport à la distribution des données légitimes dans l'espace des caractéristiques. Les points éloignés selon cette métrique pondérée sont susceptibles d'être des attaques adversariales.
Validation de Cohérence Sémantique
Processus vérifiant la cohérence logique entre les caractéristiques d'une entrée pour détecter les incohérences introduites par les attaques. Les échantillons adversariaux présentent souvent des contradictions sémantiques subtiles entre différentes parties des données.
Détection par Apprentissage Méta
Approche où un méta-modèle apprend à reconnaître les patterns d'attaques en s'entraînant sur divers types d'exemples adversariaux générés par différentes méthodes. Cette technique offre une généralisation améliorée face à des attaques inconnues.
Calibrage de Défense Adversariale
Processus d'ajustement des paramètres de détection pour optimiser le compromis entre taux de détection et taux de faux positifs selon le contexte d'application. Le calibrage garantit une protection efficace sans dégrader excessivement les performances sur les données légitimes.
Détection par Analyse de Sensibilité
Méthode évaluant comment de petites perturbations affectent la sortie du modèle pour identifier les entrées anormalement sensibles. Les échantillons adversariaux montrent généralement une sensibilité disproportionnée par rapport aux données normales.
Système de Défense Hybride
Combination de multiples techniques de détection complémentaires pour améliorer la robustesse globale contre divers types d'attaques adversariales. Cette approche synergistique exploite les forces de chaque méthode tout en compensant leurs faiblesses respectives.
Détection par Validation de Manifold
Technique vérifiant si un échantillon se situe sur le manifold des données légitimes appris pendant l'entraînement du modèle. Les attaques adversariales créent souvent des points s'écartant significativement de ce manifold de données.
Seuil de Détection Dynamique
Mécanisme adaptatif ajustant automatiquement les seuils de détection en fonction des caractéristiques des données en temps réel pour optimiser les performances. Cette approche maintient une efficacité constante face à des distributions de données évolutives.
Обнаружение путем анализа возмущений
Метод, выявляющий характерные для состязательных атак паттерны возмущений путем анализа изменений, примененных к исходным входным данным. Эта техника фокусируется на структуре изменений, а не на абсолютных значениях.
Обнаружение путем анализа согласованности
Техника, проверяющая согласованность прогнозов модели при различных преобразованиях или условиях для выявления состязательного поведения. Атаки часто вызывают показательные несоответствия при незначительных вариациях входных данных.