Глоссарий ИИ
Полный словарь искусственного интеллекта
Ванильный градиент
Базовый метод, который вычисляет градиент выхода по отношению к входу для генерации карт значимости. Хотя прост, часто страдает от шума и насыщения градиентов в глубоких сетях.
Grad-CAM++
Улучшенное расширение Grad-CAM, которое использует взвешенные градиенты высшего порядка для лучшего захвата релевантности пикселей. Производит более точные локализации, особенно для множественных объектов на изображении.
Входная пертурбация
Метод интерпретируемости, который оценивает важность характеристик, наблюдая изменения выхода после возмущений входа. Градиенты могут направлять эти возмущения для более эффективного анализа.
Тейлоровское разложение
Математический подход, использующий разложение в ряд Тейлора для аппроксимации вклада каждой характеристики в выход модели. Обеспечивает прочное теоретическое обоснование для методов атрибуции на основе градиентов.
Визуализация потока градиентов
Техника, которая отслеживает поток градиентов через слои сети для понимания того, как информация распространяется. Помогает идентифицировать проблемы, такие как исчезающие или взрывающиеся градиенты в глубоких архитектурах.
Контрастное объяснение
Метод, который использует градиенты для идентификации не только релевантных характеристик (pertinent facts), но и тех, которые должны были присутствовать (minimal perturbation). Предлагает более полное видение причин решения модели.