Глоссарий ИИ
Полный словарь искусственного интеллекта
SHAP для временных рядов (Temporal SHAP)
Адаптация метода SHAP (SHapley Additive exPlanations), учитывающая временную зависимость наблюдений для определения важности каждого временного шага для итогового прогноза.
Атрибуция LSTM (LSTM-Attribution)
Метод интерпретируемости, специфичный для рекуррентных нейронных сетей типа LSTM, который количественно оценивает вклад каждого скрытого состояния или ячейки памяти в выход модели.
Направленная временная возмущение (Guided Temporal Perturbation)
Подход интерпретируемости, который систематически изменяет сегменты временного ряда для наблюдения влияния на прогноз, используя эвристики для нацеливания на наиболее влиятельные периоды.
Последовательная карта значимости (Sequential Saliency Map)
Генерация карт значимости, адаптированных к последовательным данным, где каждая точка последовательности получает оценку важности на основе градиента выхода относительно входа в этот конкретный момент времени.
Временные интегрированные градиенты (Temporal Integrated Gradients)
Расширение метода Integrated Gradients, которое интегрирует градиенты вдоль пути в пространстве временных рядов, часто начиная с базовой последовательности (например, нулей или средней последовательности).
Объяснение с помощью временного контрфакта (Temporal Counterfactual Explanation)
Генерация минимальной альтернативной временной последовательности, которая привела бы к другому прогнозу, позволяя понять критические условия для принятия решения моделью.
Декомпозиция с помощью функционального анализа (Functional ANOVA)
Статистический метод, который разлагает функцию прогнозирования временной модели на основные эффекты (индивидуальные периоды) и эффекты взаимодействия (комбинированные периоды) для количественной оценки их влияния.
Интерпретируемость на основе вейвлетов (Wavelet-based Interpretability)
Использование вейвлет-преобразования для разложения временного ряда на разные частоты и локализации паттернов, которые наиболее влияют на прогноз модели.
Временные Правила Ассоциации (Temporal Association Rules)
Извлечение правил типа 'если паттерн A происходит в момент времени t, то предсказание B' для объяснения поведения модели в понятных временных паттернах.
LIME для Временных Рядов (Time-LIME)
Адаптация LIME (Local Interpretable Model-agnostic Explanations), которая выборочно исследует сегменты временного ряда для создания локальной линейной модели, объясняющей предсказание в данной точке.
Профиль Временного Влияния (Temporal Influence Profile)
Графическое представление влияния каждого временного шага на текущее предсказание, раскрывающее память или релевантный горизонт модели для конкретной задачи.
Анализ Причинной Чувствительности (Causal Sensitivity Analysis)
Оценка чувствительности модели к причинным воздействиям на временной ряд, с различением корреляции и причинности для более устойчивой интерпретации.
Объяснение по Временному Прототипу (Temporal Prototype Explanation)
Метод, который идентифицирует прототипные временные последовательности (наиболее представительные) класса предсказания и объясняет новое предсказание его сходством с этими прототипами.
Декомпозиция Временной Ошибки (Temporal Error Decomposition)
Техника, которая разделяет ошибку предсказания модели на компоненты, связанные с определёнными фазами временного ряда (например: шум, тренд, сезонность) для выявления слабых мест.
Интерпретация по Временной Суррогатной Модели (Temporal Surrogate Model)
Обучение простой и интерпретируемой модели (например: ARIMA, линейная регрессия) для аппроксимации поведения сложной модели (например: нейронная сеть) на заданном временном окне.
Визуализация Скрытого Состояния RNN (RNN Hidden State Visualization)
Набор техник (например: PCA, t-SNE), применяемых к векторам скрытых состояний RNN для визуализации внутренней динамики модели и идентификации фаз обучения временных паттернов.