Глоссарий ИИ
Полный словарь искусственного интеллекта
Возмущённая окрестность
Набор синтетических образцов, сгенерированных путём незначительного изменения характеристик интересующего экземпляра для исследования локального поведения сложной модели.
Веса экземпляров
Экспоненциальные коэффициенты, определяющие важность каждого возмущённого образца в окрестности, основанные на их расстоянии от исходного объясняемого экземпляра.
Бинарное возмущение
Техника модификации характеристик, при которой каждый признак активируется (1) или деактивируется (0) случайным образом для генерации синтетических образцов в окрестности объясняемого экземпляра.
Функция объяснения
Отображение, которое связывает каждый экземпляр и его локальный контекст с интерпретируемым объяснением, обычно линейной моделью или упрощённым набором правил.
Правила интерпретации
Набор простых логических условий, извлечённых с помощью LIME для объяснения того, как определённые характеристики влияют на предсказание на локальном уровне.
Сложность против интерпретируемости
Фундаментальный компромисс, при котором более сложные модели часто более производительны, но менее интерпретируемы, требуя таких техник, как LIME, для согласования этих целей.
Окно окрестности
Радиус или параметр, определяющий область влияния вокруг объясняемого экземпляра, критически важный для балансирования локальной релевантности и устойчивости аппроксимации.
Text LIME
Специализация LIME для текстовых данных, где возмущения заключаются в добавлении/удалении слов или фраз для объяснения предсказаний моделей NLP.