Глоссарий ИИ
Полный словарь искусственного интеллекта
Временная значимость
Техника, которая идентифицирует наиболее влиятельные моменты или интервалы времени во временном ряду путем возмущения входных данных и измерения воздействия на выход модели.
Временная управляемая обратная связь
Метод интерпретируемости, который адаптирует управляемую обратную связь к рекуррентным нейронным сетям для визуализации временных характеристик, которые наиболее активируют нейроны.
LIME для временных рядов
Адаптация алгоритма LIME (Local Interpretable Model-agnostic Explanations), которая генерирует локальные объяснения, создавая возмущенные сегменты временного ряда для формирования простой интерпретируемой модели.
Временной SHAP
Расширение значений SHapley Additive exPlanations на последовательные данные, приписывающее вклад каждому временному шагу или каждой характеристике в каждый момент времени для объяснения общего прогноза.
Маскирование временного интервала
Подход интерпретируемости, который маскирует или заменяет целые сегменты временного ряда для оценки их коллективной важности в принятии решения моделью, в отличие от значимости, которая концентрируется на отдельных точках.
Правила временной эволюции
Метод, который извлекает логические правила, описывающие, как состояния или паттерны развиваются во времени, чтобы привести к конкретному прогнозу, делая рассуждения последовательной модели явными.
Анализ траектории в латентном пространстве
Техника, которая визуализирует и интерпретирует путь, проходимый последовательностью данных в латентном пространстве модели (например, автоэнкодера), для понимания ее динамики и классификации.
Временная релевантность через вейвлет-декомпозицию
Метод, который decompose временной ряд в различные частоты и временные масштабы с помощью вейвлетов, а затем оценивает релевантность каждой компоненты для прогнозирования модели.
Временные контрфактуальные объяснения
Генерация измененных минимальных временных рядов, которые меняют предсказание модели, позволяя понять критические временные условия, которые привели бы к другому результату.
Динамическая карта тепла
Визуализация интерпретируемости, которая отображает важность характеристик (или пикселей в видео) эволюционным образом с течением времени, показывая, как изменяется фокус модели.
Интерпретируемость через агрегацию временных признаков
Подход, объясняющий предсказания на основе агрегированных временных характеристик (скользящее среднее, дисперсия и т.д.) вместо необработанных точек данных, предоставляя более макроскопический взгляд.
Декомпозиция влияния по временным шагам
Метод, который изолирует вклад каждого отдельного временного шага в финальное предсказание, часто используя техники денуазинга или анализируя градиенты на протяжении рекуррентных шагов.
Анализ важности долгосрочных зависимостей
Набор техник для количественной оценки и визуализации того, как далекие события в прошлом влияют на текущее предсказание, ключевая проблема для моделей, таких как LSTM или Transformers.
Временные причинные объяснения
Методология, выходящая за рамки корреляции для идентификации отношений причины и следствия в последовательных данных, которые использует модель, используя модели причинности, такие как временные причинные ациклические графы.