Глоссарий ИИ
Полный словарь искусственного интеллекта
Test de Disparate Impact
Méthode statistique évaluant si un algorithme produit des résultats défavorables de manière disproportionnée pour certains groupes démographiques protégés.
Analyse de Parité
Évaluation quantitative mesurant si les taux de prédictions positives sont équivalents entre différents groupes démographiques dans les résultats d'un modèle IA.
Métrique de Biais
Indicateur quantitatif mesurant le niveau de discrimination ou d'inéquité présent dans les prédictions d'un système d'intelligence artificielle.
Validation Croisée Éthique
Technique d'évaluation itérative testant la robustesse d'un modèle face aux biais sur différents sous-ensembles de données représentatifs de populations variées.
Cartographie des Risques IA
Processus systématique d'identification, d'évaluation et de documentation des risques éthiques potentiels associés au déploiement d'un système d'IA.
Transparence Modélisation
Capacité à rendre compréhensibles les mécanismes internes, les données d'entraînement et les processus de décision d'un algorithme d'intelligence artificielle.
Explicabilité Modèle
Ensemble des techniques permettant d'interpréter et d'expliquer les prédictions individuelles d'un modèle d'IA de manière compréhensible pour les humains.
Surveillance Continue Biais
Système de monitoring permanent détectant l'émergence ou l'amplification de biais dans un modèle IA déployé en production.
Оценка этического влияния
Всесторонний анализ потенциальных последствий системы ИИ для прав человека, справедливости и инклюзивности до и во время её внедрения.
Алгоритмическое управление
Организационная структура, определяющая обязанности, процессы и механизмы контроля для обеспечения этической разработки и использования систем ИИ.
Сертификация этичности ИИ
Формальный процесс валидации, подтверждающий, что система искусственного интеллекта соответствует установленным этическим нормам и стандартам справедливости.
Аудируемость системы
Способность системы ИИ подвергаться тщательному и независимому анализу для проверки её соответствия этическим и регуляторным требованиям.
Анализ чувствительности к смещениям
Систематическая оценка изменения производительности и смещений модели в ответ на изменения входных данных или гиперпараметров.
Показатель справедливости
Составной индикатор, количественно оценивающий общий уровень справедливости алгоритма путем агрегирования нескольких метрик смещения и дискриминации.
Тест калибровки
Статистическая проверка, обеспечивающая соответствие вероятностей, предсказанных моделью, реальным частотам, наблюдаемым в различных демографических подгруппах.