Глоссарий ИИ
Полный словарь искусственного интеллекта
Справедливая передискретизация
Техника предобработки, изменяющая распределение обучающих данных путем избыточного представления меньшинств или недостаточно представленных групп для уменьшения алгоритмических расхождений в прогнозах модели.
Взвешивание обратными вероятностями
Метод коррекции смещения, присваивающий вес обучающим примерам, обратно пропорциональный их частоте в популяции, компенсируя тем самым дисбаланс между демографическими группами.
Состязательное обучение для справедливости
Подход одновременного обучения основного предсказателя и противника, пытающегося предсказать чувствительные атрибуты, заставляя основную модель генерировать инвариантные представления к защищенным характеристикам.
Справедливая калибровка прогнозов
Техника постобработки, настраивающая оценки прогноза для обеспечения того, чтобы предсказанные вероятности соответствовали наблюдаемым частотам согласованным образом для разных демографических групп.
Оптимизация с ограничениями справедливости
Метод обучения, интегрирующий математические ограничения на метрики справедливости непосредственно в целевую функцию, обеспечивая соблюдение критериев справедливости во время оптимизации модели.
Оптимизированное выравнивание возможностей
Техника обработки, обеспечивающая равные показатели истинно положительных результатов между группами при максимизации общей производительности, часто реализуемая через специфические функции потерь или корректировки порогов.
Скорректированная демографическая паритетность
Метод коррекции, обеспечивающий пропорциональное распределение положительных прогнозов между различными демографическими группами, независимо от их внутренних характеристик.
Дебиасинг с помощью каузальности
Подход, использующий причинно-следственные графы для идентификации и нейтрализации путей причинности, вводящих смещения, сохраняя только отношения, релевантные для задачи прогнозирования.
Apprentissage par invariance de groupe
Technique d'entraînement forçant le modèle à apprendre des représentations invariantes aux variations entre groupes démographiques tout en préservant les informations pertinentes pour la tâche principale.
Correction post-hoc par seuils adaptatifs
Méthode appliquée après entraînement ajustant dynamiquement les seuils de décision par groupe pour équilibrer les métriques de performance et garantir une équité dans les prédictions finales.
Réduction de disparité par repondération
Technique de prétraitement recalculant les poids des instances d'entraînement pour minimiser la divergence statistique entre la distribution observée et une distribution cible équitable.
Feature masking équitable
Stratégie de traitement masquant sélectivement ou transformant les caractéristiques potentiellement biaisées pendant l'entraînement pour forcer le modèle à se baser sur des attributs non discriminants.
Correction de biais de sélection
Ensemble de techniques identifiant et compensant les distorsions introduites par des processus d'échantillonnage non aléatoires qui favorisent systématiquement certains sous-groupes de la population.
Apprentissage robuste aux attaques d'équité
Méthodologie d'entraînement intégrant des exemples adversariaux conçus pour amplifier les biais, renforçant ainsi la résistance du modèle contre les manipulations visant à dégrader son équité.
Débiaisage par contrefactualité
Technique générant des exemples contrefactuels modifiant les attributs sensibles pour entraîner le modèle à produire des prédictions invariantes aux changements de ces caractéristiques protégées.
Équilibrage des distributions par transport optimal
Méthode avancée utilisant la théorie du transport optimal pour transformer la distribution des données d'un groupe minoritaire afin de la rapprocher de celle du groupe majoritaire, réduisant ainsi les biais systémiques.
Справедливая регуляризация через расхождение
Техника обучения, добавляющая штрафной член на основе мер расхождения (KL, JS, Вассерштейна) между распределениями предсказаний различных групп для обеспечения статистической справедливости.