Глоссарий ИИ
Полный словарь искусственного интеллекта
Аудит прозрачности
Систематическая и независимая оценка, направленная на проверку уровня прозрачности модели ИИ, включая документацию её данных, алгоритмов и процессов принятия решений.
Отчет о соответствии (Compliance Report)
Формализованный документ, полученный в результате аудита, подтверждающий соответствие системы ИИ правилам и стандартам в области прозрачности, справедливости и надёжности.
Происхождение данных (Data Lineage)
Полное отслеживание жизненного цикла данных, используемых для обучения и оценки модели, от их происхождения до преобразования, что является важным для аудита прозрачности и воспроизводимости.
Суррогатная модель (Surrogate Model)
Простая и интерпретируемая модель (такая как дерево решений), обученная для имитации поведения сложной модели чёрного ящика, с целью предоставления общего объяснения её работы.
Объяснимость по принципу дизайна (XAI by Design)
Методологический подход, интегрирующий ограничения интерпретируемости и прозрачности с самого этапа проектирования модели, а не добавляемый впоследствии.
Оценка достоверности объяснения
Метрика, количественно оценивающая степень уверенности в том, что данное объяснение точно отражает логику принятия решений базовой модели для конкретного прогноза.