Глоссарий ИИ
Полный словарь искусственного интеллекта
Взвешивание признаков
Процесс присвоения числовых весов входным признакам для количественной оценки их относительного влияния на конкретное предсказание модели.
Объяснение для конкретного экземпляра
Подход XAI, предоставляющий индивидуальные обоснования для каждого отдельного предсказания, а не общие правила, применимые ко всей модели.
Градиентная значимость
Метод вычисления градиентов выхода относительно входных признаков для идентификации пикселей или переменных, оказывающих наибольшее влияние на предсказание нейронной модели.
Возмущение данных
Процесс систематического изменения входных признаков для оценки их влияния на предсказания, фундаментальный для локальных методов, таких как LIME.
Гауссово возмущение
Добавление случайного шума, следующего нормальному распределению, к входным признакам для создания вариаций и тестирования локальной робастности предсказаний модели.
Сложность объяснения
Метрика оценки простоты локального объяснения, часто измеряемая количеством используемых условий или признаков, способствующая легкой человеческой интерпретации.