Глоссарий ИИ
Полный словарь искусственного интеллекта
Устойчивость при переносе
Способность модели противостоять состязательным атакам, изначально разработанным для других архитектур, измеряющая обобщающую способность защиты от неизвестных угроз.
Исходная модель
Эталонная модель, используемая для создания состязательных атак в контексте атак с переносом, служащая отправной точкой для компрометации целевых моделей.
Целевая модель
Модель-жертва, на которую направлена атака с переносом, уязвимости которой эксплуатируются с помощью возмущений, сгенерированных на отдельной исходной модели.
Пространство атак
Математическая область, определяющая все возможные возмущения, которые могут быть применены к входным данным для компрометации модели, что имеет решающее значение для оценки переносимости атак.
Обобщение атаки
Свойство состязательной атаки сохранять свою эффективность на нескольких моделях или экземплярах одной и той же модели, независимо от их архитектуры или конкретных параметров.
Метод ансамбля
Стратегия атаки, объединяющая несколько исходных моделей для создания более устойчивых и переносимых возмущений, значительно повышающая уровень успеха против неизвестных целей.
Атака No-Box
Тип атаки с экстремальным переносом, при котором злоумышленник не располагает никакой информацией о целевой модели, полагаясь исключительно на универсальную переносимость возмущений.
Норма расстояния
Математическая мера (L0, L1, L2, L∞), количественно определяющая амплитуду состязательных возмущений, необходимая для оценки переносимости при сохранении незаметности атаки.
Граница переносимости
Верхняя теоретическая граница, определяющая максимальный уровень успеха атаки с переносом между двумя моделями, основанная на их структурном и функциональном сходстве.
Разнообразие моделей
Мера различий между архитектурами, параметрами и обучающими наборами данных различных моделей, оказывающая прямое влияние на переносимость состязательных атак.
Выравнивание градиентов
Сходство направлений градиентов различных моделей, служащее предиктивным индикатором потенциальной переносимости атак между этими моделями.
Защита на основе переноса
Защитный подход, использующий переносимость атак для разработки надежных средств защиты, эффективных против неизвестных угроз и будущих моделей атак.
Уклонение модели
Цель атак с переносом, заключающаяся в обходе механизмов обнаружения или классификации модели без обнаружения, путем эксплуатации ее обобщенных уязвимостей.
Поверхность принятия решений
Математическая граница, разделяющая различные классы прогнозирования модели, сходство которой между моделями определяет потенциальный успех атак с переносом.
Чувствительность при переносе
Количественная мера общей уязвимости различных моделей перед одними и теми же состязательными возмущениями, раскрывающая системные слабости в машинном обучении.
Метрика переносимости
Количественный показатель, оценивающий вероятность успеха атаки, созданной на исходной модели, по компрометации целевой модели, основанный на структурном или поведенческом сходстве.