Глоссарий ИИ
Полный словарь искусственного интеллекта
SHAP значение
Метод объяснимости, основанный на теории игр, который присваивает каждому признаку маржинальный вклад в итоговый прогноз, соблюдая аксиомы эффективности и симметрии.
Важность переменных через перестановку
Техника, измеряющая снижение производительности модели при случайной перестановке значений переменной, тем самым количественно оценивая её прогностический вклад.
Анализ частной зависимости
Визуализация, показывающая маржинальный эффект одной или двух переменных на средний прогноз при маргинализации эффекта других характеристик.
Интегрированный градиент
Метод атрибуции, вычисляющий интеграл градиентов вдоль пути от эталонной точки до входных данных для определения важности каждого признака.
Карта релевантности
Визуализация, указывающая области входных данных, которые наиболее сильно влияют на прогноз модели, особенно используемая в компьютерном зрении.
Суррогатное дерево решений
Простая интерпретируемая модель, обученная для аппроксимации поведения сложной модели, позволяющая глобально понять правила принятия решений.
Анализ устойчивости
Оценка стабильности прогнозов модели при возмущениях входных данных для выявления уязвимых точек.
Анализ локальной чувствительности
Детальное изучение влияния вариаций входных данных на конкретный прогноз для интерпретации индивидуальных решений модели.
Индексы Соболя
Метрики, разлагающие дисперсию выходных данных на вклады входных переменных и их взаимодействий для количественной оценки влияния каждого фактора.
Тест Морриса
Эффективный метод скрининга, идентифицирующий входные переменные, оказывающие значительное линейное, нелинейное или интерактивное влияние на прогнозы.
Анализ неопределенности
Количественная оценка неопределенностей в прогнозах модели, вызванных изменчивостью входных данных и ограничениями самой модели.
Входное возмущение
Техника введения контролируемых вариаций во входные данные для оценки чувствительности и стабильности прогнозов модели.
Функциональное разложение ANOVA
Аналитический подход, разлагающий функцию модели на члены основных эффектов и взаимодействий для точной количественной оценки вкладов.
Анализ условной зависимости
Исследование отношений между переменными, обусловленными другими характеристиками, для выявления сложных и нелинейных зависимостей.
Влияние экземпляра
Мера, количественно оценивающая влияние конкретной точки данных на параметры и прогнозы модели в процессе ее обучения.
Метод FAST
Подход к глобальному анализу чувствительности, использующий преобразование Фурье для эффективной оценки индексов чувствительности всех порядков.