Глоссарий ИИ
Полный словарь искусственного интеллекта
Значения Шепли
Концепция из теории игр, количественно оценивающая средний предельный вклад признака по всем возможным коалициям признаков, служащая теоретической основой для методов справедливого распределения, таких как SHAP.
Важность признаков по перестановкам
Метод оценки общей важности, который измеряет снижение производительности модели, когда значения признака случайным образом переставляются, тем самым указывая на зависимость модели от этого признака для прогнозов.
Карта значимости градиента
Метод визуального распределения для сверточных нейронных сетей, который использует градиент выхода относительно входа для выделения наиболее влиятельных пикселей или регионов для данного прогноза.
Разбивка
Метод локального распределения, который разлагает прогноз модели на вклады каждого признака, вычисляя условные изменения прогноза при последовательном добавлении признаков.