Глоссарий ИИ
Полный словарь искусственного интеллекта
Эпсилон-дифференциальная приватность
Количественная мера конфиденциальности, где эпсилон (ε) представляет собой параметер потери приватности, при этом более низкие значения указывают на более сильную защиту, но снижают полезность данных.
Дельта-дифференциальная приватность
Вариант дифференциальной приватности, допускающий вероятность δ нарушения конфиденциальности, используемый для механизмов с более слабыми гарантиями конфиденциальности, но с лучшей полезностью.
Механизм Лапласа
Базовый алгоритм для достижения дифференциальной приватности путем добавления шума, взятого из распределения Лапласа, откалиброванного в соответствии с чувствительностью функции запроса и параметром эпсилон.
Механизм Гаусса
Альтернатива механизму Лапласа, использующая нормальное распределение для добавления шума, особенно подходящая для векторных запросов и обеспечивающая лучшие свойства композиции.
Чувствительность
Мера максимального влияния, которое один индивид может оказать на результат функции, являющаяся основополагающей для калибровки необходимого количества шума в механизмах дифференциальной приватности.
Бюджет приватности
Общая сумма потери приватности (эпсилон), выделяемая для серии запросов к конфиденциальным данным, управляемая для поддержания общих гарантий конфиденциальности.
Рандомизированный ответ
Историческая техника сбора частных данных, при которой респонденты случайным образом лгут или говорят правду в соответствии с заранее определенной вероятностью, предшественник современных методов локальной дифференциальной приватности.
Теорема композиции
Математический принцип, определяющий, как гарантии конфиденциальности комбинируются при последовательном применении нескольких дифференциально-приватных механизмов к одним и тем же данным.
Локальная дифференциальная приватность
Модель конфиденциальности, в которой шум добавляется непосредственно к данным пользователя перед их сбором, что устраняет необходимость доверять централизованному сборщику данных.
Глобальная дифференциальная приватность
Подход, при котором доверенный администратор применяет механизмы дифференциальной приватности ко всей базе данных, что обычно обеспечивает лучшие гарании полезности по сравнению с локальной приватностью.
Приватное агрегирование
Техники, объединяющие индивидуальные зашумлённые вклады для получения агрегированной статистики, сохраняющей конфиденциальность, которые являются ключевыми для дифференциально приватного подсчёта и усреднения.
Калибровка шума
Математический процесс определения оптимального количества шума для добавления в зависимости от чувствительности функции и желаемого уровня конфиденциальности с целью максимизации полезности результатов.
Инвариантность к постобработке
Фундаментальное свойство, гарантирующее, что применение любой дополнительной функции к результату дифференциально приватного механизма не ухудшает гарантии конфиденциальности.
Экспоненциальный механизм
Общий механизм дифференциальной приватности для нечисловых запросов, выбирающий выходные данные в соответствии с экспоненциальным распределением, взвешенным по их качеству относительно данных.
Дифференциальная приватность Реньи
Обобщение дифференциальной приватности, использующее дивергенцию Реньи для измерения потерь приватности, что обеспечивает более точный анализ композиции и лучшие промежуточные гарантии.
Усиление дифференциальной приватности
Феномен, при котором гарантии конфиденциальности естественным образом улучшаются, когда механизмы применяются к случайным подвыборкам данных или комбинируются со стохастическими процессами.
Метод разреженного вектора
Метод дифференциальной приватности, позволяющий определить, превышен ли набор порогов, не раскрывая точные значения, полезный для адаптивного анализа и обнаружения паттернов.