Глоссарий ИИ
Полный словарь искусственного интеллекта
Этика при проектировании
Методологический подход, систематически интегрирующий этические соображения с начальной фазы проектирования систем ИИ, а не как последующую коррекцию.
Алгоритмическая справедливость
Фундаментальный принцип, направленный на обеспечение того, чтобы системы ИИ производили справедливые и недискриминационные результаты для всех затронутых групп.
Предсказательная справедливость
Количественная мера, оценивающая, распределены ли ошибки прогнозирования модели справедливо между различными демографическими группами.
Объяснимость
Качество модели ИИ, позволяющее человеческим пользователям понимать конкретные причины за каждым индивидуальным решением или прогнозом.
Проектирование, ориентированное на ценности
Методология разработки, ставящая человеческие и этические ценности в центр процессов технического проектирования и принятия решений.
Оценка алгоритмического воздействия
Структурированный процесс перспективного анализа потенциальных эффектов системы ИИ на отдельных лиц, сообщества и общество.
Управление данными
Организационный каркас, определяющий политики, процедуры и обязанности для этичного и безопасного управления данными, используемыми в ИИ.
Разнообразие данных
Принцип, обеспечивающий сбалансированное и полное представление всех релевантных групп в обучающих наборах данных.
Непрерывный этический мониторинг
Процесс постоянного отслеживания этических показателей работающей системы ИИ для выявления и исправления отклонений.
Тест на предвзятость
Набор статистических и аналитических методов, направленных на количественное выявление систематической дискриминации в моделях ИА.
Смягчение предвзятости
Набор проактивных техник, применяемых к данным, алгоритмам или результатам для уменьшения или устранения выявленной дискриминации.