Глоссарий ИИ
Полный словарь искусственного интеллекта
Карта значимости (Saliency Map)
Тепловая карта, которая визуализирует пиксели или признаки входа, имеющие наибольшее влияние на предсказание модели глубокого обучения.
Градиент выхода
Метод, который вычисляет градиент выхода модели относительно каждого пикселя входа для количественной оценки его влияния на финальное предсказание.
Score-CAM
Вариант Grad-CAM, который не использует градиенты, а оценивает важность каждой карты активации, пропуская её повышение разрешения через сеть.
FullGrad
Метод атрибуции, который разлагает выход нейронной сети на вклады каждого нейрона и смещения, предоставляя полное и чувствительное к градиенту объяснение.
Градиент входа
Метод объяснимости, который использует градиент выхода относительно входа в качестве прямой меры релевантности каждого пикселя или признака.
Анализ на основе возмущений
Семейство техник, которые оценивают важность признаков, вводя систематические изменения во входные данные и измеряя эффект на выходе.
RISE (Randomized Input Sampling for Explanation)
Метод, который генерирует объяснения, случайным образом маскируя вход с помощью нескольких масок и агрегируя предсказания для оценки важности каждой области.