Глоссарий ИИ
Полный словарь искусственного интеллекта
Объяснимость (XAI)
Совокупность методов и подходов, позволяющих сделать решения моделей искусственного интеллекта понятными для людей, что крайне важно для нормативного соответствия и доверия пользователей.
Интерпретируемость
Способность модели ИИ представлять свои внутренние механизмы понятным образом, различая внутреннюю интерпретируемость (прозрачные модели) и постфактумную интерпретируемость.
Право на объяснение по GDPR
Юридическое обязательство организаций предоставлять ясное и содержательное объяснение автоматизированных решений, затрагивающих физических лиц, в соответствии со статьей 22 GDPR.
Алгоритмический аудит
Систематический процесс оценки алгоритмов ИИ для проверки их соответствия правовым, этическим и техническим требованиям, включая тестирование на смещения и документацию.
Чёрный ящик
Модель ИИ, внутренние механизмы которой непрозрачны и трудно интерпретируемы, создающая серьезные проблемы для нормативного аудита и прозрачности.
SHAP (SHapley Additive exPlanations)
Метод объяснения, основанный на теории игр, который количественно оценивает влияние каждой характеристики на прогноз, предоставляя теоретические гарантии для нормативного аудита.
LIME (Local Interpretable Model-agnostic Explanations)
Метод локальной интерпретации, объясняющий индивидуальные прогнозы путем аппроксимации сложной модели простой интерпретируемой моделью в локальной области.
Важность признаков
Количественная мера относительного влияния каждой входной переменной на прогнозы модели, необходимая для документирования факторов принятия решений при аудите.
Контрфактуалы
Объяснения, показывающие, какие минимальные изменения входных характеристик изменили бы решение модели, помогая понять и оспорить автоматизированные решения.
Документация модели
Структурированная и полная запись характеристик, производительности, ограничений и процессов принятия решений модели ИИ, требуемая для нормативного соответствия.
Трассируемость решений
Способность отслеживать и документировать весь процесс принятия решений системы ИИ, от входных данных до конечного результата, необходимая для юридического аудита.
Оценка воздействия ИИ
Систематическая оценка потенциальных рисков системы ИИ для фундаментальных прав и общества, обязательная согласно европейскому регулированию ИИ.
Обоснование решений
Обязательство предоставлять четкие и конкретные причины, поддерживающие каждое автоматизированное решение, позволяя индивидуумам понимать и оспаривать результаты.
Метрики справедливости
Количественные показатели, измеряющие потенциальные предубеждения и дискриминацию в алгоритмических решениях, необходимые для соответствия антидискриминационным нормам.
Тесты устойчивости
Систематические оценки стабильности предсказаний модели при вариациях входных данных, гарантирующие надежность, требуемую для нормативного аудита.
Глобальный анализ чувствительности
Метод оценки общего влияния каждой переменной на предсказания модели по всему набору данных, предоставляющий общий обзор для нормативного аудита.
Реестр алгоритмов
Централизованная база данных, содержащая все алгоритмы ИИ, используемые организацией, с их характеристиками и уровнями риска, необходимая для регуляторной прозрачности.