Глоссарий ИИ
Полный словарь искусственного интеллекта
Интерактивный интерфейс объяснений
Графическая система, позволяющая пользователям динамически навигировать и управлять объяснениями предсказаний модели ИИ. Облегчает персонализированное исследование алгоритмических решений через адаптивные визуализации.
Панель интерпретируемости
Интегрированная панель управления, консолидированно представляющая метрики глобальной и локальной интерпретируемости модели машинного обучения. Объединяет графики, фильтры и интерактивные элементы управления для многомерного анализа алгоритмического поведения.
Интерактивная визуализация SHAP
Динамический интерфейс для исследования значений SHAP (SHapley Additive exPlanations) для понимания влияния каждого признака на предсказания. Предоставляет манипуляции в реальном времени для анализа вклада переменных с разных точек зрения.
Инструмент анализа «что если»
Интерактивный интерфейс, позволяющий пользователям изменять входные значения и мгновенно наблюдать влияние на предсказания модели. Облегчает исследование гипотетических сценариев и понимание причинно-следственных связей в алгоритмических решениях.
Обозреватель контрпримеров
Визуальный инструмент для идентификации и анализа случаев, когда модель ошибается или даёт неожиданные результаты. Помогает понять ограничения модели и выявить проблемные паттерны данных.
Интерфейс исследователя LIME
Интерактивная система для исследования объяснений LIME (Local Interpretable Model-agnostic Explanations) на индивидуальном уровне предсказаний. Позволяет визуализировать, как модель локально интерпретирует каждое решение, и настраивать параметры объяснения.
Панель алгоритмической справедливости
Специализированный интерфейс для мониторинга и визуализации потенциальных предвзятостей в предсказаниях модели по разным демографическим группам. Предлагает инструменты сравнительного анализа и оповещения об обнаруженных различиях в обработке.
Система запросов к модели
Разговорный интерфейс или интерфейс на основе запросов, позволяющий напрямую запрашивать у модели информацию о её решениях и внутренней логике. Переводит вопросы на естественном языке в понятные технические анализы поведения модели.
Интерфейс отладки модели
Продвинутый интерактивный инструмент, позволяющий разработчикам отслеживать и анализировать ошибочные или неожиданные решения модели. Объединяет визуализацию промежуточных данных и анализ переломных точек в процессе принятия решений.
Визуализатор путей принятия решений
Графический интерфейс, показывающий полный путь данных через слои или этапы модели до окончательного прогноза. Позволяет идентифицировать критические узлы и последовательные преобразования, влияющие на решение.
Панель сравнения моделей
Интерактивный интерфейс, одновременно сравнивающий объяснения и производительность нескольких моделей на одних и тех же данных. Облегчает сравнительную оценку интерпретируемости и поведенческих решений между алгоритмами.
Интерактивный анализатор чувствительности
Инструмент, позволяющий визуально манипулировать влиянием каждой переменной на прогнозы модели с помощью ползунков и динамических графиков. Раскрывает критические пороги и нелинейности в отношениях между входом и выходом.
Обозреватель схожих экземпляров
Интерфейс, идентифицирующий и визуализирующий наиболее влиятельные обучающие случаи для данного прогноза. Помогает понять, на каком предыдущем опыте модель основывает свои текущие решения.
Интерфейс интерактивных якорей
Система визуализации объяснений через якоря (Anchors), показывающая достаточные условия для сохранения стабильности прогноза. Позволяет интерактивно исследовать правила if-then, гарантирующие устойчивость решений.
Панель управления локальными объяснениями
Специализированный интерфейс для детального анализа индивидуальных решений модели с инструментами масштабирования и фильтрации. Объединяет множественные визуализации (важность признаков, контрпримеры, сходства) для полного локального понимания.