Глоссарий ИИ
Полный словарь искусственного интеллекта
Предварительный этический аудит
Глубокое исследование алгоритмических компонентов, данных и процессов принятия решений для выявления предвзятости и дискриминации перед вводом в эксплуатацию.
Матрица этического воздействия
Структурированный инструмент оценки, позволяющий количественно измерять и визуализировать потенциальные этические последствия по различным измерениям и для заинтересованных сторон.
Оценка риска предвзятости
Количественный показатель, измеряющий вероятность и серьезность алгоритмической дискриминации, основанной на защищенных характеристиках.
Тест на процедурную справедливость
Оценка, проверяющая, справедливо ли процессы принятия решений ИИ относятся ко всем индивидам независимо от их личных характеристик.
Этический анализ чувствительности
Метод исследования изменений этических результатов системы в ответ на изменения во входных данных или параметрах модели.
Картирование заинтересованных сторон
Процесс идентификации и анализа всех участников, на которых влияет система ИИ, для оценки потенциальных дифференцированных воздействий.
Рамка оценки социального воздействия
Структура комплексной оценки, измеряющая коллективные и долгосрочные эффекты развертывания ИИ на социальную сплоченность и институты.
Метрика алгоритмической прозрачности
Набор показателей, количественно оценивающих способность пользователей и регуляторов понимать и запрашивать информацию о механизмах принятия решений ИИ.
Протокол валидации этики
Стандартизированный ряд тестов и проверок, обеспечивающих соответствие системы установленным этическим принципам перед развертыванием.
Показатель дистрибутивной справедливости
Мера оценки справедливости распределения выгод и затрат системы ИИ между различными демографическими группами.
Оценка этической устойчивости
Тест способности системы поддерживать свои этические гарантии перед попытками манипуляции или неблагоприятными условиями.
Тест на отсутствие дискриминации
Систематическая проверка отсутствия необоснованного дифференцированного лечения на основе защищенных характеристик в алгоритмических решениях.
Фреймворк ответственности
Организационная структура, определяющая ответственности, механизмы контроля и пути обжалования для решений и воздействий ИИ.
Оценка воздействия на права человека
Систематический анализ потенциальных эффектов системы ИИ на осуществление признанных на международном уровне фундаментальных прав.
Метод консеквенциального анализа
Подход оценки, сосредоточенный на реальных результатах и последствиях системы, а не на ее намерениях или внутренних принципах.
Протокол оценки систематической предвзятости
Комплексная методология для выявления дискриминаций, возникающих из сложного взаимодействия между данными, алгоритмами и контекстами использования.
Матрица алгоритмической уязвимости
Инструмент для картирования населения и ситуаций, представляющих высокий риск негативного воздействия при принятии автоматизированных решений системой.
Тест предиктивной справедливости
Статистическая оценка согласованности прогнозов модели для разных групп с целью обеспечения справедливой производительности.
Рамка оценки регуляторного воздействия
Структура анализа, обеспечивающая соответствие системы ИИ применимым юридическим и регуляторным требованиям в области её развертывания.