Глоссарий ИИ
Полный словарь искусственного интеллекта
Стохастическая защита
Подход к защите, использующий случайность в процессе классификации, чтобы сделать состязательные атаки непредсказуемыми и менее эффективными за счет введения стохастичности в процесс вывода.
Вероятностная устойчивость
Мера устойчивости, оценивающая вероятность того, что модель будет сохранять правильные прогнозы при наличии возмущений, вместо того чтобы гарантировать абсолютную защиту от всех атак.
Гауссовская защита
Специфическая техника рандомизации, использующая гауссовский шум для защиты моделей, при которой нормальное распределение применяется либо к входным данным, либо к весам нейронной сети.
Защита с использованием Dropout
Стратегическое использование dropout во время вывода (обычно отключаемого) для введения случайности в активации сети, что делает атаки на основе градиента менее надежными.
Случайное преобразование
Применение случайных преобразований (поворот, сдвиг, масштабирование) к входным данным перед классификацией, создающее вариативность, которая нарушает построение целенаправленных состязательных примеров.
Защита на основе энтропии
Метод защиты, использующий энтропию распределения вероятностей на выходе в качестве метрики для обнаружения и отклонения подозрительных входных данных, в сочетании с рандомизацией для увеличения неопределенности.
Защита методом Монте-Карло
Защитный подход, выполняющий множественный вывод с различными случайными реализациями и агрегирующий результаты, использующий методы Монте-Карло для оценки устойчивости модели.
Байесовская защита
Защитный фреймворк, рассматривающий веса сети как вероятностные распределения, а не фиксированные точки, что естественным образом интегрирует неопределенность и рандомизацию в процесс классификации.
Стохастическое маскирование градиентов
Техника, которая намеренно затемняет градиенты путем рандомизации, чтобы предотвратить использование злоумышленниками методов, основанных на градиентах, для генерации противоречивых примеров.
Рандомизированный ансамбль
Построение ансамблей моделей, в которых каждый член использует разную рандомизацию, создавая более устойчивую коллективную защиту за счет стохастического разнообразия предсказаний.
Адаптивная рандомизация
Стратегия защиты, при которой уровень и тип рандомизации динамически адаптируются на основе характеристик входных данных или обнаруженных угроз для оптимизации компромисса между устойчивостью и точностью.
Вероятностная сертификация
Математическая гарантия, предоставляющая верхнюю границу вероятности правильной классификации при возмущении, а не абсолютную уверенность, адаптированная для рандомизированных методов защиты.
Защита с учетом шума
Защитный подход, разработанный с явным учетом природы и статистических свойств добавляемого шума, оптимизирующий рандомизацию для максимальной защиты при сохранении производительности.
Стохастический вывод
Процесс вывода, интегрирующий случайные элементы на различных этапах (входные данные, активации, веса), превращающий детерминированную классификацию в вероятностный процесс, устойчивый к атакам.
Рандомизированная предварительная обработка
Конвейер предварительной обработки данных, включающий случайные этапы (переменная нормализация, стохастическое аугментирование), создающий первую линию защиты от состязательных атак.
Распределительная робастность
Свойство модели поддерживать стабильную производительность перед лицом изменений в распределении входных данных, достигаемое с помощью рандомизации для моделирования и защиты от этих изменений.