Глоссарий ИИ
Полный словарь искусственного интеллекта
График накопленных локальных эффектов (ALE)
Альтернатива PDP, которая вычисляет влияние признака на локальные различия в прогнозах, избегая смещения из-за корреляций между переменными и предоставляя более надёжную интерпретацию.
Контрфактуал (Counterfactual)
Объяснение в форме гипотетического сценария, показывающее минимальные изменения, которые необходимо внести во входные характеристики, чтобы изменить прогноз модели в сторону желаемого результата, облегчая каузальную интерпретацию.
Глобальная интерпретируемость
Способность понимать и объяснять общее поведение модели на всей её распределении данных, выявляя общие тенденции и соотношения, выученные алгоритмом.
Локальная интерпретируемость
Способность объяснять прогноз модели для конкретного экземпляра данных, детализируя, как характеристики этого экземпляра индивидуально повлияли на окончательное решение.
Панель управления объяснимым ИИ (XAI Dashboard)
Интерфейс визуализации, интегрирующий различные инструменты объяснимости (PDP, SHAP, LIME и др.), позволяющий аналитикам и заинтересованным сторонам отслеживать, диагностировать и понимать поведение моделей в эксплуатации.